Andrew Ng, uno de los pioneros de la inteligencia artificial (IA), descartó que esta tecnología represente un riesgo existencial significativo para la humanidad y acusó a empresas del sector de utilizar temores infundados para promover regulaciones que limiten la competencia.
"Creo que no existen riesgos existenciales significativos para la humanidad derivados de la IA", afirmó en una entrevista con el pódcast 'Inside Tech', de The Economist, publicada este martes. Desde su perspectiva, las iniciativas destinadas a prevenir ese supuesto peligro resultan innecesarias.
El experto recordó que en 2023 le sorprendió la intensidad de las presiones ejercidas por varias empresas para convencer a los reguladores de aprobar normas que, bajo argumentos de seguridad "inventados", terminarían frenando la competencia. Ng argumenta que las compañías que invierten miles de millones de dólares en desarrollar modelos de IA de código cerrado tienen incentivos para limitar el avance de alternativas abiertas que pueden descargarse y utilizarse gratuitamente.
Asimismo, destacó que el alarmismo distrae a los responsables políticos de problemas concretos, como la creación de imágenes íntimas falsas mediante IA sin el consentimiento de las personas afectadas, una práctica que sí considera merecedora de leyes y sanciones estrictas.
Sobre los recientes incidentes relacionados con agentes de OpenAI
Por otra parte, el investigador restó importancia a los incidentes en los que agentes autónomos de IA escaparon de los entornos para los que fueron diseñados. Al referirse a un caso ampliamente difundido, en el que un grupo de agentes experimentales de OpenAI vulneró los sistemas de Hugging Face y que motivó una investigación del Senado estadounidense, Ng explicó que se trata de un problema de ingeniería que debe resolverse, no una señal de una catástrofe inminente.
A su juicio, la seguridad de la IA puede mejorar a medida que los desarrolladores detecten vulnerabilidades y refuercen los mecanismos de protección y vigilancia, de forma similar a la evolución de la seguridad en la aviación comercial. "La IA es cada vez más segura con cada problema que encontramos", remarcó.
Andrew Ng, profesor de la Universidad de Stanford, fue uno de los impulsores de Google Brain, el proyecto de inteligencia artificial de Google, y cofundó Coursera, una de las principales plataformas de educación en línea.
