La Tertulia de los Viernes con Alejandro Abal, Mariana Blengio, Rafael Mandressi y Carolina Porley
En las últimas dos semanas los máximos responsables de las principales compañías de inteligencia artificial de Estados Unidos salieron a advertir sobre los riesgos que implica el desarrollo de los modelos más avanzados de esta tecnología.
El martes 8, Jacob Coxon, un investigador de la compañía Anthropic, creadora de la aplicación Claude de Inteligencia Artificial, renunció a su cargo y escribió un posteo en redes sociales que sacudió a buena parte del mundo.
Coxon aseguró que las personas que construyen IA “creen sinceramente que podría matarnos a todos antes de que acabe la década.” Agregó que su mensaje no era una maniobra de marketing y destacó que muchos ejecutivos e investigadores expresan ese temor en privado.
Cuatro días después, el propio CEO de Anthropic, Darío Amodei, salió a la opinión pública, respaldó a su ex colaborador y puso sobre la mesa una propuesta de regulación.
En una columna que publicó en su blog Amodei señaló: “Mi principal preocupación es que, desde este verano, la IA ha avanzado a un ritmo vertiginoso, impulsada principalmente por su creciente capacidad para crear la próxima generación de IA”. Es lo que se conoce como “automejora recursiva”. “Si no se controlara, podría superar nuestra capacidad de comprender y controlar estos sistemas”, alertó.
Apenas se conoció el artículo de Amodei, el líder de OpenAI, Sam Altman, y el director de xAI, Elon Musk, manifestaron sus coincidencias con el planteo.
Sam Altman escribió en sus redes: “Estoy de acuerdo con Dario en que hay que desacelerar el avance de los modelos de inteligencia artificial más potentes y avanzados”. Además, calificó como una muy buena idea el compromiso de Amodei de aceptar evaluadores independientes que tuvieran acceso permanente y con nivel similar al de un empleado.
Por su parte, Elon Musk fue mucho más breve: respondió solamente “Dario tiene razón”, en referencia al pedido de Amodei de desacelerar el desarrollo de los sistemas de inteligencia artificial más avanzados.
Luego también expresaron su respaldo el número 1 de Google DeepMind y el director ejecutivo de Microsoft.
Jensen Huang, de Nvidia, y Mark Zuckerberg, de Meta, compartieron la importancia de la seguridad, aunque discreparon sobre la necesidad de nuevas regulaciones.
Este martes, aquí En Perspectiva, el ingeniero Eduardo Mangarelli señaló que en todas estas noticias es difícil distinguir entre los hechos objetivos y el ruido, y es complicado determinar qué hay detrás de estas declaraciones, si son una preocupación genuina por la seguridad, una estrategia para protegerse de futuras regulaciones o una forma de fortalecer la posición de las empresas en la competencia global, especialmente frente a China y a los modelos de código abierto.
Para la mesa de hoy, Rafael Mandressi propuso discutir este asunto a partir de otro enfoque, planteando la pregunta “¿cómo recibimos nosotros las advertencias de quienes están desarrollando estas herramientas?”.
Continúa en: Emmanuel Carrère, el célebre escritor francés, llega a Montevideo a fin de mes
