El presidente de Estados Unidos afirmó que su país es el más avanzado en inteligencia artificial y se refirió a las advertencias de Sam Altman, Dario Amodei y Elon Musk sobre los riesgos de la tecnología.
El presidente de Estados Unidos, Donald Trump, sostuvo este sábado que existen «fuerzas negativas» que buscan ralentizar el avance de la inteligencia artificial y afirmó que su país es el «más avanzado del mundo» en ese ámbito. Sus declaraciones se produjeron después de que los directores ejecutivos de Anthropic y OpenAI, Dario Amodei y Sam Altman, y el empresario Elon Musk coincidieran en advertir sobre la necesidad de moderar el desarrollo de los modelos más avanzados.
«Creo que hay muchas fuerzas negativas que están sacando el tema cuando no deberían hacerlo, y están planteando cosas que no van a suceder», declaró Trump ante la prensa desde el complejo de golf de Doonbeg, en el condado de Clare, Irlanda, donde asistía al Abierto de Irlanda.
El mandatario afirmó que Estados Unidos es el «país más avanzado del mundo» en inteligencia artificial y señaló que quiere que continúe siéndolo porque «quien gane» en ese ámbito «gana». No descartó la posibilidad de establecer algunas «medidas de control» sobre la IA.
Días atrás, consultado sobre la advertencia de que la tecnología podría escapar al control humano y extinguir a la especie, Trump había desestimado esos temores. «No, no me preocupa en absoluto», había señalado.
Las advertencias de los referentes tecnológicos
El primero en plantear la necesidad de desacelerar el desarrollo de la inteligencia artificial fue Dario Amodei, director ejecutivo y cofundador de Anthropic, la empresa detrás del chatbot Claude.
Horas después, Sam Altman, CEO de OpenAI y uno de sus principales rivales, respaldó públicamente la propuesta y anunció que su compañía adoptará una de las medidas sugeridas por Amodei: permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para supervisar los riesgos de sus sistemas.
«Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA», escribió Altman. El empresario aseguró que el tema había sido uno de los principales puntos de discusión dentro de OpenAI durante las últimas semanas y calificó como «una gran idea» la incorporación de supervisores externos. «Nosotros haremos lo mismo. Pronto tendremos más para compartir», agregó.
Poco después se sumó Elon Musk, dueño de xAI y creador del chatbot Grok, quien también respaldó el planteo de Amodei. «Dario tiene razón», escribió escuetamente en X.
El pronunciamiento conjunto representa una señal llamativa en un sector en el que las principales compañías compiten por desarrollar modelos cada vez más poderosos.
OpenAI ya había informado en agosto que había desacelerado temporalmente parte del entrenamiento de sus modelos de frontera para reforzar sus sistemas de monitoreo, alineación y seguridad, después de una serie de incidentes y ante indicios de que sus próximos sistemas podrían alcanzar capacidades críticas en materia de ciberseguridad.
El pedido para reducir el ritmo de desarrollo
En un ensayo publicado este sábado, Amodei fue más allá y pidió que las compañías actúen con mayor cautela frente a una tecnología cuyos riesgos, advirtió, aumentan a medida que crece su poder.
«Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos», escribió Amodei en una entrada de blog.
Su ensayo fue publicado después de que Anthropic difundiera el jueves un informe de inteligencia sobre amenazas en el que detalló cómo varios actores habían utilizado sus modelos de IA «Claude» para actividades que iban desde el desarrollo de armas y operaciones cibernéticas hasta la vigilancia y el fraude.
«La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves», indicó Amodei. «No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia», dijo el empresario, que cofundó Anthropic junto con su hermana Daniela en 2021.
«Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia», afirmó.
Las recientes advertencias siguen la línea de una carta publicada a fines de marzo de 2023, en la que más de mil referentes del ámbito académico y empresarial vinculados con la inteligencia artificial reclamaron una pausa de seis meses en el desarrollo de sistemas de IA generativa. Entre los firmantes más destacados figuraba Elon Musk, aunque eso no le impidió avanzar en el desarrollo de Grok.