El código de seguridad en línea exige que los motores de búsqueda tomen “medidas apropiadas” para evitar la difusión de material de abuso infantil.
Australia ha presentado regulaciones que exigen que los motores de búsqueda de Internet tomen medidas enérgicas contra el material de abuso sexual infantil creado por inteligencia artificial.
El código de seguridad en línea anunciado el viernes requerirá que servicios como Google, Bing, DuckDuckGo y Yahoo tomen “medidas apropiadas” para evitar la difusión de material de explotación infantil, incluidas imágenes “sintéticas” creadas por IA.
El anuncio se produce después de que el comisionado de eSafety retrasara la implementación de una versión anterior del código en junio después de que Microsoft y Google introdujeran la funcionalidad de inteligencia artificial para sus servicios de motor de búsqueda en Internet.
“El uso de la IA generativa ha crecido tan rápidamente que creo que ha tomado al mundo entero con la guardia baja hasta cierto punto”, dijo en un comunicado la comisionada de eSafety, Julie Inman Grant.
Grant dijo que el código era un “gran ejemplo” de cómo los reguladores y las empresas de tecnología podrían trabajar juntos para hacer que Internet sea más seguro.
“Cuando los actores más importantes de la industria anunciaron que integrarían la IA generativa en sus funciones de búsqueda, teníamos un borrador de código que claramente ya no era adecuado para su propósito y no podía brindar las protecciones comunitarias que necesitábamos y esperábamos”, dijo.
“Le pedimos a la industria que intentara nuevamente redactar el código para cumplir con esas expectativas y quiero felicitarlos por entregar un código que protegerá la seguridad de todos los australianos que usan sus productos”.
A principios de este año, la BBC informó que los pedófilos han estado utilizando el software de inteligencia artificial Stable Diffusion para crear y vender material realista sobre abuso sexual infantil en sitios para compartir contenido como Patreon.
El comisionado de eSafety de Australia está trabajando actualmente en la redacción de dos nuevos códigos para regular los servicios de almacenamiento en línea como iCloud y OneDrive, y los servicios de mensajería privada, respectivamente.
Los esfuerzos de los gobiernos para aumentar la supervisión de los servicios de mensajería y la nube para combatir la explotación infantil han provocado el rechazo de la industria tecnológica y los defensores de la privacidad.
WhatsApp y Signal han amenazado con retirarse del Reino Unido si aprueba el proyecto de ley de seguridad en línea, que requeriría que las plataformas busquen material de abuso sexual infantil.
Las empresas tecnológicas y los defensores de las libertades civiles dicen que la ley obligaría a las plataformas a eliminar el cifrado de extremo a extremo, poniendo en riesgo la privacidad de todos los usuarios.
En junio, el comisionado de eSafety de Australia anunció códigos para regular las redes sociales, los servicios de transporte de Internet, los servicios de distribución de aplicaciones, los servicios de alojamiento y los proveedores de equipos.
Las infracciones de los códigos están sujetas a sanciones civiles.
Source: https://www.aljazeera.com/economy/2023/9/8/australia-to-require-google-bing-to-clamp-down-on-ai-created-child-porn