"Es un tema actual que las computadoras se salgan de control"

El mundo está en alerta por la Inteligencia Artificial. Un especialista de la UNER explica por qué se debate que las computadoras no superen a los humanos.
25 de abril 2023 · 19:56hs

La Inteligencia Artificial (IA) cobró recientemente un gran protagonismo en la opinión pública, primero a partir del lanzamiento del modelo de lenguaje más avanzado hasta el momento, Chat GPT-4, de la empresa OpenAI, y luego a raíz del pronunciamiento mundial de un grupo de científicos, investigadores y empresarios (la carta abierta ya lleva más de 10.000 firmas), quienes advirtieron sobre los riesgos de continuar la carrera de desarrollo de IA sin ningún tipo de regulación y reclamaron un acuerdo de las principales compañías para suspender por un tiempo (quizás demasiado breve) el avance de estas tecnologías.

Diego Evin, bioingeniero y docente de la Facultad de Ingeniería de la Universidad Nacional de Entre Ríos y doctor en Ciencias de la Computación de la Universidad de Buenos Aires, trabaja hace 20 años en la enseñanza y la investigación de esta tecnología. En una entrevista difundida por la casa de estudios radicada en Oro Verde, el especialista se refirió al debate vigente y a la IA, desde nociones básicas hasta sus aspectos más complejos y hasta inciertos,. También habló de sus beneficios en campos como la salud.

Horóscopo para el día de hoy.

Horóscopo de este martes 2 de julio de 2024

Horóscopo para hoy.

Horóscopo de este lunes 1 de julio de 2024

Bioingeniero Diego Evin.jpg

— ¿Qué es la Inteligencia Artificial?

— Es un área de las Ciencias de la Computación que busca desarrollar sistemas capaces de realizar tareas que típicamente necesiten inteligencia humana, como entender lenguaje natural, interpretar imágenes, tomar decisiones o planificar. Una de sus características es que pueden mejorar a partir de la experiencia. Hay algoritmos que se entrenan a medida que se usan: son Aprendizajes por Refuerzo. De acuerdo a si hace la tarea bien o mal, modifican sus estados internos, que es lo que modela el algoritmo.

— ¿Qué es un algoritmo?

— Es una serie de pasos y definiciones de un proceso para resolver un problema computacional. Para problemas que tienen solución conocida se le dice a la computadora la serie de pasos que tiene que seguir. Los de Inteligencia Artificial son un grupo particular de algoritmos. No les explicamos nosotros cómo tienen que resolver el problema, sino que se encargan de aprender sola a resolver un problema. Eso se denomina Aprendizaje Automático, Maquinal o Machine Learning.

— ¿Qué tipo de aplicaciones hay en Salud o Biología?

— Existen muchas aplicaciones. Por ejemplo, en la Facultad de Ingeniería de la UNER hay un proyecto para identificar retinopatía en bebés prematuros, una patología que puede llevar a la ceguera. Tamién se trabaja en interfaces cerebro-computadora, en la detección de apnea de sueño, de patologías en la voz y de reconocimiento automático del habla. En Bioinformática se trata de predecir cómo se van a integrar secuencias de aminoácidos para formar proteínas, o en la búsqueda y caracterización de nuevas moléculas para utilizar como medicamentos.

Bioingeniero Diego Evin 2.jpg

Un futuro incierto

— ¿Qué trasfondo tiene la carta abierta que pidió suspender los avances de Inteligencia Artificial?

— Esa carta surgió desde el Instituto Future of Life, conformado por gente muy reconocida en ámbitos académicos y empresarios para advertir que el desarrollo tecnológico no lleve a la extinción de la vida, a un futuro en que las máquinas puedan sobrepasar la capacidad de inteligencia del ser humano y revelarse contra sus creadores. Sería lo que veíamos como ciencia ficción tiempo atrás, por ejemplo en la película Terminator: llegar a un punto en que los sistemas empiecen a tomar decisiones por sí mismos. No es un chiste ni trivial. Es una hipótesis posible. Lo que se pide es pausar por seis meses el desarrollo de sistemas con potencia superior a GPT-4. Nadie sabe, salvo OpenAI, cómo funciona internamente y cuál es su verdadero potencial.

— ¿Qué riesgos puntuales hay?

— Uno es la información falsa. Estos sistemas ya tienen capacidad de crear imágenes falsas, como las conocidas del Papa Francisco con campera. Otro es automatizar todos los trabajos. La propia OpenAI analizó que hay un 80% de actividades que podrían tener parte de sus tareas reemplazadas.. Por otro lado, el riesgo de perder el control y que la civilización empiece a ser controlada por las máquinas. Por ejemplo, que los algoritmos se comuniquen con una fábrica de robots y ordenen construirlos. Son riesgos reales. Open AI está desarrollando formas de que estos sistemas puedan comunicarse con otros programas. Podrían acceder a nuestra información personal en redes sociales o incluso bancaria.

“Los cambios que trajo Internet fueron bastante paulatinos, esto va a ser mucho más abrupto”

— ¿Sirve de algo frenar durante seis meses?

— Ese planteo no es ingenuo. Saben que en seis meses no se va a frenar nada. Con buena fe, asumo que se quiere promover leyes o normas que regulen un poco el desarrollo. Según otras interpretaciones, buscan ganar tiempo para otras empresas. Hay en curso una carrera geopolítica. China tiene un plan para ser líder en IA para 2030, pero Estados Unidos no quiere perder esa posición.

Chat GPT4.jpg

— ¿Siempre hay un humano detrás de las máquinas?

— Uno de los ejes la gobernanza de esta tecnología es el alignment (alineamiento) de la Inteligencia Artificial: mecanismos que eviten que las computadoras se salgan del control humano o que valoren las consecuencias de sus acciones antes de emprenderlas. Es un debate muy actual. Hay opiniones que dicen que ahora es imposible y gente que propone acuerdos de gobernanza y transparentar los algoritmos para saber qué datos utilizan y cómo. También se habla de auditorías: por ejemplo, que otra empresa pueda valorar externamente qué efectos o consecuencias puede tener la tecnología antes de que salga al mercado. Es decir, una autoregulación de las mismas compañías.

— ¿Cuál es tu posición ante el debate?

— En resumen, pienso que los seis meses no van a lograr nada y están dirigiéndose a una sola empresa. Sí veo necesario plantear la gobernanza, las fake news y la automatización de trabajos. La IA trae beneficios revolucionarios como algoritmos que permiten detectar nuevas moléculas que se puedan usar como medicamentos. Pero también se pueden utilizar para alterar genéticamente organismos, lo que implica abrir una caja de Pandora. Es una cuchilla de doble filo. Hubo otra carta menos difundida, del Encuentro Latinoamericano sobre Inteligencia Artificial - Khipu 2023, que introdujo una perspectiva latinoamericana, la necesidad de democratización de la IA y recaudos sobre los sesgos de estos programas, basados en los mercados norteamericanos y europeos.

LEER MÁS: "La Inteligencia Artificial desplazará la labor humana"

Ver comentarios

Lo último

Brasil empató contra Colombia, quedó segundo y chocará con Uruguay

Brasil empató contra Colombia, quedó segundo y chocará con Uruguay

Costa Rica le ganó 2-1 a Paraguay, pero no le alcanzó

Costa Rica le ganó 2-1 a Paraguay, pero no le alcanzó

La China Suárez y L-Gante lanzaron un adelanto de su primera canción juntos

La China Suárez y L-Gante lanzaron un adelanto de su primera canción juntos

Ultimo Momento
Brasil empató contra Colombia, quedó segundo y chocará con Uruguay

Brasil empató contra Colombia, quedó segundo y chocará con Uruguay

Costa Rica le ganó 2-1 a Paraguay, pero no le alcanzó

Costa Rica le ganó 2-1 a Paraguay, pero no le alcanzó

La China Suárez y L-Gante lanzaron un adelanto de su primera canción juntos

La China Suárez y L-Gante lanzaron un adelanto de su primera canción juntos

Se suspendió la subasta de terrenos del Patito Sirirí

Se suspendió la subasta de terrenos del Patito Sirirí

Llegó a Paraná Worldcoin y su verificación de humanidad

Llegó a Paraná Worldcoin y su "verificación de humanidad"

Policiales
Una joven murió en el acceso a General Campos

Una joven murió en el acceso a General Campos

Allanamientos por contrabando en tres localidades

Allanamientos por contrabando en tres localidades

Nahir Galarza: la Corte dejó firme la cadena perpetua

Nahir Galarza: la Corte dejó firme la cadena perpetua

La hija de Enrique Fabiani afirmó: Estuvimos a 50 metros de Patricia Bullrich y no le interesamos

La hija de Enrique Fabiani afirmó: "Estuvimos a 50 metros de Patricia Bullrich y no le interesamos"

Detuvieron a camionero por contrabando de plomo y aluminio

Detuvieron a camionero por contrabando de plomo y aluminio

Ovación
Brasil empató contra Colombia, quedó segundo y chocará con Uruguay

Brasil empató contra Colombia, quedó segundo y chocará con Uruguay

Costa Rica le ganó 2-1 a Paraguay, pero no le alcanzó

Costa Rica le ganó 2-1 a Paraguay, pero no le alcanzó

La lista de la Selección Argentina Sub 23 para París 2024

La lista de la Selección Argentina Sub 23 para París 2024

Nazareno Sasia se clasificó a los Juegos Olímpicos de París

Nazareno Sasia se clasificó a los Juegos Olímpicos de París

En un verdadero partidazo, Turquía venció 2-1 a Austria y se metió en cuartos de final

En un verdadero partidazo, Turquía venció 2-1 a Austria y se metió en cuartos de final

La provincia
Se suspendió la subasta de terrenos del Patito Sirirí

Se suspendió la subasta de terrenos del Patito Sirirí

Llegó a Paraná Worldcoin y su verificación de humanidad

Llegó a Paraná Worldcoin y su "verificación de humanidad"

Concordia: aprueban ordenanza con aclaración en la eutanasia

Concordia: aprueban ordenanza con aclaración en la eutanasia

Estiman bajar la mitad del déficit de la Caja a fin de año

Estiman bajar la mitad del déficit de la Caja a fin de año

Avanzan en una nueva Ley de Obstétricas en Entre Ríos

Avanzan en una nueva Ley de Obstétricas en Entre Ríos

Dejanos tu comentario