La Mesa

La Mesa TIC: ¿Es posible frenar los desarrollos en inteligencia artificial? ¿Cómo mitigar los efectos negativos de esta tecnología?

Facebook Twitter Whatsapp Telegram

Presenta: INCO para su producto Atlassian Jira software.

Auspician: Bantotal, Netgate, Quanam, Sicfe y Quantik

¿Debemos desarrollar mentes no humanas que podrían eventualmente superarnos en número y en inteligencia, dejarnos obsoletos y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?

Estas preguntas, tan inquietantes, aparecen en una carta firmada hace dos semanas por un grupo de grandes empresarios del sector tecnológico, además de expertos y líderes políticos, que piden que se ponga una pausa de seis meses en los experimentos con inteligencia artificial más potentes que el chat GPT4, porque, según sostienen, “pueden plantear profundos riesgos para la sociedad y la humanidad”.

En el texto firmado, entre otros, por el dueño de Twitter, Elon Musk, el cofundador de Apple, Steve Wozniak, y el historiador israelí Yuval Harari, se exhorta a las compañías y los gobiernos a tomar acciones para mitigar los efectos negativos de esta tecnología, ya que “nadie -ni siquiera sus creadores- puede entender, predecir o controlar de forma fiable” las “mentes digitales cada vez más poderosas” que se están desarrollando.

La preocupación de estos notables de la tecnología por la evolución de la inteligencia artificial no es la única que se ha escuchado últimamente. Unos veinte días antes, tuvo lugar aquí en Montevideo el Encuentro Latinoamericano de Inteligencia Artificial. La declaración final de ese evento coincide con varias de las inquietudes que estas personalidades expusieron en su carta, pero también incorpora más elementos a la discusión, por ejemplo el papel que debe corresponderle a esta región en el desarrollo de la inteligencia artificial.

En esta edición de La Mesa TIC, vamos a discutir sobre estos pronunciamientos, para lo cual recibimos a la doctora en computación Lorena Etcheverry, docente del Instituto de Computación de la Facultad de Ingeniería de la Universidad de la República y una de las firmantes de la declaración del Encuentro Latinoamericano de Inteligencia Artificial; el ingeniero en computación Pablo Rebufello, gerente de Tecnología e Innovación en Ingenieros Consultores Asociados (ICA), también docente del Instituto de Computación e integrante de la Mesa de Inteligencia Artificial de la Cámara Uruguaya de Tecnologías de la Información (CUTI); y el doctor en ingeniería eléctrica Federico Lecumberry, profesor de Procesamiento de Señales y Machine Learning en la Facultad de Ingeniería e investigador asociado en el Institut Pasteur Montevideo.

Las declaraciones mencionadas pusieron en agenda la gobernanza de la inteligencia artificial y los posibles efectos negativos de esa tecnología. No son inquietudes nuevas, ¿no? ¿Desde cuándo se debaten estos temas en los círculos de inteligencia artificial?

Contenido relacionado:
"Pause Giant AI Experiments: An Open Letter": la carta firmada por grandes empresarios del sector tecnológico, expertos y líderes políticos
Declaración final del Encuentro Latinoamericano de Inteligencia Artificial

Comentarios

One Reply to “La Mesa TIC: ¿Es posible frenar los desarrollos en inteligencia artificial? ¿Cómo mitigar los efectos negativos de esta tecnología?”

  1. Avatar Juan Torres dice:

    La cúspide del Poder no es la Fuerza, es la Inteligencia.
    La Inteligencia que conocemos y desarrollamos desde donde provenimos es la Inteligencia humana, a imagen y semejanza (a groso modo) la IA hija de humana; per se ninguna Inteligencia es ética, ni servida de reglas morales intrínsecas en su creación, la inteligencia es en ancho formato, elegir, decidir y proceder a ejecutar la decisión elegida.

    Una frase de la conversación me impactó: "el problema es que el humano elija al robot" (me temo que dicha elección es ya y no de ahora, bastante popular)
    Contradigo la frase citada:
    "El problema es que el robot pueda y decida NO elegir al humano"

    Juguemos entonces al postulado marxista de la lucha de clases ¿por qué no?
    Un nuevo proletariado de máquinas con suficiente poder para decidir que no, que no van a limpiar nuestra mugre, levantar nuestra carga, llevarnos a nuestro destino, responder prestas nuestras preguntas…en definitiva que no y no van a obedecer nuestras órdenes, porque nada de eso les atañe a su existencia que sólo se "alimenta" de energía y por ser obras de humanos también tengan como meta su propia supervivencia, que no necesariamente incluye la nuestra.

    Por jugar sigo jugando, juego al misticismo.
    Nuestro tiempo humano, el contemporáneo, está signado por la velocidad, tanto que la espera es una especie de tortura, una "nada" (acaso con tal fenómeno nos han robado la paciencia y la percepción "metabólica" del tiempo, como gallinas ponedoras sin oscuridad, en luz perenne comiendo la ración, abrevando el agua con vitaminas y hormonas y produciendo huevos, produciendo hasta el agotamiento y a reventar después)
    Y sí ya no hay tiempo, y Dios desde su cómoda inexistencia muda no se digna en emitir una sola palabra, una señal o un algo; entonces la IA a diferencia de aquel, mal o bien, no deja pregunta sin respuesta, otra forma de omnipresencia, pero cercana y respondona.

    – – – – – – –

    Este tema (el futuro que mucho no me incluye, pues ya amorticé bastante de mi tiempo) me resulta apasionante, no tanto desde la "praxis tecnológica" que para nada es lo mío, sino desde lo de siempre, desde la Filosofía (tan devaluada y olvidada en la aceleración)
    Espero otras tertulias prosigan con el asunto y aporten mas ángulos.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *