El jefe de la compañía de inteligencia artificial que fabrica ChatGPT le dijo al Congreso el martes que la intervención del gobierno será fundamental para mitigar los riesgos de los sistemas de IA cada vez más poderosos.
“A medida que avanza esta tecnología , entendemos que las personas están ansiosas acerca de cómo podría cambiar la forma en que vivimos. Nosotros también”, dijo el CEO de OpenAI, Sam Altman, en una audiencia en el Senado.
Altman propuso la formación de una agencia estadounidense o global que otorgaría licencias a los sistemas de inteligencia artificial más poderosos y tendría la autoridad para “retirar esa licencia y garantizar el cumplimiento de los estándares de seguridad”.
Su puesta en marcha con sede en San Francisco se disparó a la atención del público después de que lanzó ChatGPT a fines del año pasado.
La herramienta gratuita de chatbot responde preguntas con respuestas convincentemente similares a las de los humanos.
Lo que comenzó como un pánico entre los educadores sobre el uso de ChatGPT para hacer trampa en las tareas escolares se ha expandido a preocupaciones más amplias sobre la capacidad de la última generación de herramientas de «IA generativa» para engañar a las personas, difundir falsedades, violar las protecciones de derechos de autor y cambiar algunos trabajos.
Y aunque no hay señales inmediatas de que el Congreso elabore nuevas reglas radicales de IA, como lo están haciendo los legisladores europeos, las preocupaciones sociales llevaron a Altman y a otros directores ejecutivos de tecnología a la Casa Blanca a principios de este mes y han llevado a las agencias estadounidenses a prometer tomar medidas enérgicas contra los productos dañinos de IA. que violan los derechos civiles existentes y las leyes de protección al consumidor.
El senador Richard Blumenthal, el demócrata de Connecticut que preside el subcomité de privacidad, tecnología y leyes del Comité Judicial del Senado, abrió la audiencia con un discurso grabado que sonaba como el del senador, pero en realidad era un clon de voz entrenado en los discursos de piso de Blumenthal y recitando ChatGPT- comentarios de apertura por escrito.
El resultado fue impresionante, dijo Blumenthal, pero agregó: «¿Qué pasaría si le hubiera pedido, y si hubiera proporcionado, un respaldo a la rendición de Ucrania o al liderazgo (del presidente ruso) Vladimir Putin?»
El tono general del interrogatorio de los senadores fue cortés el martes, en contraste con audiencias pasadas en el Congreso en las que los ejecutivos de tecnología y redes sociales enfrentaron duros interrogatorios sobre las fallas de la industria para administrar la privacidad de los datos o contrarrestar la información errónea dañina.
En parte, eso se debió a que tanto los demócratas como los republicanos dijeron que estaban interesados en buscar la experiencia de Altman para evitar problemas que aún no han ocurrido.
Blumenthal dijo que se debería exigir a las empresas de IA que prueben sus sistemas y divulguen los riesgos conocidos antes de lanzarlos, y expresó una preocupación particular sobre cómo los futuros sistemas de IA podrían desestabilizar el mercado laboral.
Altman estuvo en gran parte de acuerdo, aunque tenía una visión más optimista sobre el futuro del trabajo.
Presionado por su peor temor sobre la IA, Altman evitó en su mayoría los detalles, excepto para decir que la industria podría causar «un daño significativo al mundo» y que «si esta tecnología sale mal, puede salir bastante mal».
Pero luego propuso que una nueva agencia reguladora debería imponer salvaguardas que bloquearían los modelos de IA que podrían «autoreplicarse y autoexfiltrarse en la naturaleza», lo que sugiere preocupaciones futuristas sobre sistemas avanzados de IA que podrían manipular a los humanos para que cedan el control.
Ese enfoque en un «tropo de ciencia ficción» lejano de la IA superpoderosa podría dificultar la adopción de medidas contra los daños ya existentes que requieren que los reguladores profundicen en la transparencia de los datos, el comportamiento discriminatorio y el potencial de engaño y desinformación, dijo un ex Funcionario de la administración de Biden que fue coautor de su plan para una declaración de derechos de AI.
“Es el miedo a estos sistemas (superpoderosos) y nuestra falta de comprensión de ellos lo que hace que todos tengan un pánico colectivo”, dijo Suresh Venkatasubramanian, un científico informático de la Universidad de Brown que fue subdirector de ciencia y justicia en el Oficina de Política Científica y Tecnológica de la Casa Blanca.
“Este miedo, que es muy infundado, es una distracción de todas las preocupaciones con las que estamos lidiando en este momento”.
OpenAI ha expresado esas preocupaciones existenciales desde su creación. Cofundada por Altman en 2015 con el respaldo del multimillonario tecnológico Elon Musk, la startup ha evolucionado de un laboratorio de investigación sin fines de lucro con una misión centrada en la seguridad a un negocio.
Sus otros productos populares de IA incluyen el creador de imágenes DALL-E. Microsoft ha invertido miles de millones de dólares en la puesta en marcha y ha integrado su tecnología en sus propios productos, incluido su motor de búsqueda Bing.
Altman también planea embarcarse en una gira mundial este mes a las capitales nacionales y las principales ciudades de los seis continentes para hablar sobre la tecnología con los legisladores y el público.
En la víspera de su testimonio en el Senado, cenó con docenas de legisladores estadounidenses, varios de los cuales dijeron a CNBC que estaban impresionados por sus comentarios.
También testificaron la directora de confianza y privacidad de IBM, Christina Montgomery, y Gary Marcus, un profesor emérito de la Universidad de Nueva York que se encontraba entre un grupo de expertos en IA que pidieron a OpenAI y otras empresas tecnológicas que detuvieran el desarrollo de modelos de IA más potentes para seis meses para dar a la sociedad más tiempo para considerar los riesgos.
La carta fue una respuesta al lanzamiento en marzo del último modelo de OpenAI , GPT-4, descrito como más poderoso que ChatGPT.
El republicano de mayor rango del panel, el senador Josh Hawley de Missouri, dijo que la tecnología tiene grandes implicaciones para las elecciones, el empleo y la seguridad nacional.
Dijo que la audiencia del martes marcó «un primer paso crítico hacia la comprensión de lo que debe hacer el Congreso».
Boletín diario
Recibe todas las mañanas noticias internacionales esenciales
Suscribir
Varios líderes de la industria tecnológica han dicho que dan la bienvenida a algún tipo de supervisión de la IA, pero han advertido contra lo que ven como reglas demasiado estrictas.
Altman y Marcus pidieron un regulador centrado en la IA, preferiblemente uno internacional, con Altman citando el precedente de la agencia nuclear de la ONU y Marcus comparándolo con la Administración de Drogas y Alimentos de los EE. UU.
Pero Montgomery de IBM, en cambio, pidió al Congreso que adoptara un enfoque de «regulación de precisión».
“Creemos que la IA debería regularse en el punto de riesgo, esencialmente”, dijo Montgomery, al establecer reglas que rijan el despliegue de usos específicos de la IA en lugar de la tecnología en sí.
AP
