Los investigadores de la industria comparan los avances actuales en inteligencia artificial con los primeros meses de la pandemia de COVID-19. «China Daily» de Reuters/mapa de datos
La renuncia de Jacob Coxon a Anthropic y su advertencia en «X» sobre los riesgos de desarrollar inteligencia artificial automejorada han provocado una reacción de la industria tecnológica. Según la revista Time, varios investigadores de inteligencia artificial compararon el momento actual con febrero de 2020, cuando comenzó la pandemia de COVID-19.
Esta analogía apunta a la velocidad con la que las amenazas cambian el mundo: al principio, el cambio parece incremental; Luego, de repente, aceleraron. Plantean la cuestión de si la sociedad podrá responder a tiempo a los riesgos de los sistemas de inteligencia artificial cada vez más avanzados.
La eventual llegada de la inteligencia súper artificial plantea desafíos que trascienden el ámbito de la tecnología. Implica billones de dólares en intereses económicos, competencia entre empresas, competencia geopolítica y posibles impactos en el empleo. También puede requerir regulaciones que hasta hace poco parecían inviables.
Esta comparación se basa en la probabilidad de que una amenaza aparente avance lentamente antes de acelerarse repentinamente. Reuters/Stevo Vasiljevic
Geoffrey Irving, ex investigador senior de alineación en OpenAI y DeepMind y ex científico jefe del Instituto de Seguridad de Inteligencia Artificial del Reino Unido, cree que las empresas deberían dejar de entrenar nuevos modelos, incluso si no existen regulaciones específicas o tratados internacionales que lo hagan cumplir.
Según los informes de los medios antes mencionados, Owen estima que existe un 50% de posibilidades de extinción humana debido a la inteligencia artificial en los próximos diez años. Un escenario que preocupa a quienes advierten de estos riesgos es el de explotar estos sistemas para crear nuevos patógenos.
Medios estadounidenses informaron que uno de los ejemplos que citaron fue la posibilidad de que la inteligencia artificial ayudara a desarrollar un agente infeccioso que podría desencadenar una pandemia global más grave que la COVID-19.
La renuncia de Jacob Coxon a Anthropic ha reavivado las advertencias sobre los riesgos de una inteligencia artificial cada vez más autónoma. (X: Evan Hub)
El cronograma de alertas y respuestas tras la advertencia de Jacob Coxon es el siguiente:
- 8 de septiembre: Jacob Coxon anuncia su dimisión y emite una advertencia.
El investigador británico informó a X que renunció a Anthropic después de tres años trabajando en investigación previa a la capacitación tanto en OpenAI como en Anthropic. Coxon cree que las dos empresas se dirigen hacia la superinteligencia, capaz de superarse sin responsabilidad.
- 8 de septiembre: Evan Hubinger respalda la alerta.
Evan Hubinger, jefe de los esfuerzos de Anthropic para lograr que los sistemas de inteligencia artificial se comporten como sus creadores pretendían, respaldó públicamente a Coxon: «Jacob tiene razón: creemos que la inteligencia artificial puede matar a todos los humanos. Personalmente, creo que hay más de un 10 por ciento de posibilidades de que eso suceda en los próximos diez años».
Dario Amodei cree que para mejorar las capacidades de los modelos es necesario reducir la velocidad de su desarrollo. (X: Darío Amodei)
- Durante las próximas 36 horas: el mensaje llega a una gran audiencia.
Según la revista Time, las publicaciones de Coxon han sido vistas 153 millones de veces. La advertencia aleja la discusión sobre los riesgos de la inteligencia artificial de los círculos profesionales y la acerca a las redes sociales, los medios de comunicación y la política estadounidense.
- 12 de septiembre: Darío Amodei propone frenar el desarrollo.
El cofundador y director ejecutivo de Anthropic publicó un artículo de 3.800 palabras en el que argumentaba que los crecientes riesgos justifican la desaceleración del desarrollo de la inteligencia artificial. Amodei advirtió que dentro de seis a 12 meses, sistemas descoordinados podrían apoderarse de toda la red.
- Después del ensayo: Elon Musk y Sam Altman coinciden con Amoday.
Musk y el director ejecutivo de OpenAI, Altman, coinciden en que el desarrollo debe desacelerarse. Altman anunció que OpenAI no se lanzará este año por motivos de seguridad.
Trump señaló que el único requisito para controlar la inteligencia artificial es un presidente fuerte e inteligente. (Verdad social: realDonaldTrump)
- 14 de septiembre: Donald Trump rechaza la desaceleración económica.
El presidente estadounidense dijo en «Truth Social» que no ve la necesidad de crear nuevas salvaguardias para la inteligencia artificial. Cree que el principal riesgo es que China obtenga una ventaja tecnológica sobre Estados Unidos.
Trump escribió en su red social: «El único control o garantía que necesita la inteligencia artificial es un presidente fuerte e inteligente, y Estados Unidos tiene muchos presidentes así».
- La posición de Jen-Hsun Huang.
El CEO de NVIDIA dice que la inteligencia artificial general, un nivel de inteligencia artificial que cumple o supera la mayoría de las capacidades humanas, ya está aquí.
El 12 de septiembre, el cofundador y director ejecutivo de Anthropic, Dario Amodei, publicó un artículo de 3.800 palabras argumentando que los riesgos crecientes son una razón legítima para un desarrollo más lento.
Si bien Amodei no recomienda detener por completo la capacitación en nuevos sistemas, recomienda ralentizarla mientras se realizan auditorías independientes y estándares de seguridad comunes. Reuters/Bhavika Chhabra
Amodai no llegó a recomendar un cese inmediato de la capacitación sobre nuevos modelos, pero sugirió que las empresas en las democracias podrían aceptar desaceleraciones voluntarias en el desarrollo si hubiera auditorías independientes y estándares de seguridad comunes.
«Tenemos que reducir el ritmo al que mejoramos las capacidades de los modelos de inteligencia artificial. El progreso seguirá pareciendo rápido y tenemos que utilizar el tiempo que tenemos sabiamente», afirmó Amodei. «Como muchas tecnologías anteriores, la inteligencia artificial tiene riesgos y, debido a su poder, estos riesgos son graves», añadió.
