La advertencia sigue a una carta abierta a principios de este año que pedía una pausa de seis meses en el desarrollo de IA.
Taipei, Taiwán – La inteligencia artificial plantea un “riesgo de extinción” que exige una acción global, según han advertido los principales científicos y tecnólogos informáticos.
“Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social como las pandemias y la guerra nuclear”, dijo un grupo de expertos en IA y otras figuras de alto perfil en un breve comunicado publicado por el Centro para la Seguridad de la IA, un grupo de defensa e investigación con sede en San Francisco, el martes.
Los firmantes incluyen expertos en tecnología como Sam Altman, director ejecutivo de OpenAI, Geoffrey Hinton, conocido como el “padrino de la IA”, y Audrey Tang, ministra digital de Taiwán, así como otras figuras notables como el neurocientífico Sam Harris y el músico Grimes. .
La advertencia sigue a una carta abierta firmada por Elon Musk y otras figuras de alto perfil en marzo que pedía una pausa de seis meses en el desarrollo de IA más avanzada que GPT-4 de OpenAI.
“Los poderosos sistemas de inteligencia artificial deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, decía la carta.
El rápido avance de la IA ha suscitado preocupaciones sobre las posibles consecuencias negativas para la sociedad, que van desde la pérdida masiva de puestos de trabajo y la infracción de los derechos de autor hasta la difusión de información errónea y la inestabilidad política. Algunos expertos han expresado su temor de que la humanidad algún día pueda perder el control de la tecnología.
Si bien la IA actual aún tiene que lograr la inteligencia general artificial (AGI), lo que podría permitirle tomar decisiones independientes, los investigadores de Microsoft dijeron en marzo que GPT-4 mostró “chispas de AGI” y fue capaz de resolver “tareas nuevas y difíciles que abarcan matemáticas, codificación, visión, medicina, derecho, psicología y más, sin necesidad de ninguna indicación especial”.
Desde entonces, han aumentado las advertencias sobre los peligros potenciales de la IA.
El mes pasado, Hinton, un científico informático de renombre, renunció a su trabajo en Google para poder dedicar más tiempo a defender los riesgos de la IA.
En una comparecencia ante el Congreso de los Estados Unidos a principios de este mes, Altman pidió a los legisladores que desarrollen rápidamente regulaciones para la tecnología de IA y recomendó un enfoque basado en licencias.
EE. UU. y otros países se esfuerzan por elaborar una legislación que equilibre la necesidad de supervisión con tecnología prometedora.
La Unión Europea ha dicho que espera aprobar una legislación para fin de año que clasificaría la IA en cuatro categorías basadas en el riesgo.
China también ha tomado medidas para regular la IA, aprobando leyes que rigen las falsificaciones profundas y exigiendo que las empresas registren sus algoritmos ante los reguladores.
Beijing también ha propuesto reglas estrictas para restringir el contenido políticamente sensible y exigir que los desarrolladores reciban aprobación antes de lanzar tecnología generativa basada en IA.
Source: https://www.aljazeera.com/economy/2023/5/31/ai-poses-risk-of-extinction-tech-ceos-warn