Empleados de OpenAI denuncian “imprudencia y secretismo” en la organización detrás de ChatGPT

Integrantes del grupo apuntan al CEO, Sam Altman, y aseguran que se ha priorizado la ganancia por sobre la seguridad y la transparencia.

05 de junio 2024, 09:59hs

OpenAI es, ahora, uno de los protagonistas con mayor visibilidad en la escena tecnológica, posición que consiguió gracias al lanzamiento de ChatGPT, a fines de 2022. Como tal, la organización que dirige Sam Altman ha adquirido responsabilidades y por ello es esperable que se encuentre bajo el escrutinio de entes reguladores, especialistas y grandes audiencias. Sin embargo, no era previsible el fuego amigo.

Leé también: El CEO de OpenAI, alerta sobre las IAs: “Podrían ser capaces de generar daños significativos”

Mientras que el año pasado la mayoría de los empleados de OpenAI firmaron una carta solicitando la reincorporación de Altman como CEO —que había sido apartado de la firma por inconsistencias en la comunicación de los proyectos—; ahora, trabajadores de la organización estadounidense levantaron su voz para denunciar prácticas non sanctas en el grupo.

“Imprudencia y secretismo”: los empleados de OpenAI denuncian malas prácticas en la organización

En una carta titulada Derecho a advertir sobre la inteligencia artificial avanzada, un grupo de integrantes y exintegrantes de OpenAI denuncia a la organización por “imprudencia y secretismo”, y de priorizar las ganancias por sobre la seguridad de los desarrollos y la transparencia de los procesos. Esos señalamientos son similares a los que la exempleada de Facebook, Frances Haugen, mencionó en sus recordados testimonios que apuntaron al accionar de Meta. De hecho, la agrupación ha contratado al mismo abogado que aquella investigadora.

Retomando el caso de OpenAI, el grupo de denunciantes es encabezado por Daniel Kokotajlo, que en el pasado integró la división de gobernanza en la organización detrás de ChatGPT. Según comentó, ellos están “corriendo en forma desenfrenada para ser los primeros” en desarrollar una AGI, en referencia a la inteligencia artificial general, una variante de estas tecnologías con capacidades superlativas y similares (más todavía) a la de los humanos. De acuerdo a Kokotajlo, los liderados por Altman no toman los recaudos necesarios para prevenir los riesgos potenciales asociados al uso de estos avances.

Leé también: Qué es la inteligencia artificial general: por qué obsesiona a las tecnológicas y qué riesgos trae

Además, reclaman a las organizaciones y empresas del sector, incluyendo a OpenAI, que no se silencien las voces que reclaman medidas de seguridad para estos sistemas. “Exigimos que la empresa no tome represalias contra empleados actuales y anteriores que comparten públicamente información confidencial relacionada con riesgos después de que otros procesos hayan fallado”, indican en su texto, que puede consultarse completo acá (en inglés).

Además de las firmas de empleados actuales de OpenAI, la carta tiene la rúbrica de figuras con reputación en este campo, entre ellos Yoshua Bengio y Geoffrey Hinton, conocidos como los “padres de la inteligencia artificial”.

Tal como señala la publicación The Verge, la carta con las denuncias se da a conocer luego de que dos investigadores de Open AI, Jan Leike e Ilya Sutskever, abandonen sus cargos en el equipo de investigación señalando problemáticas similares.

La defensa de OpenAI

“Estamos orgullosos de nuestros antecedentes a la hora de proporcionar los sistemas de IA más capaces y seguros, y creemos en nuestro enfoque científico para abordar los riesgos”, señaló una vocera de OpenAI en respuesta a la carta. “Coincidimos en que el debate riguroso es crucial dado el significado de esta tecnología, y continuaremos colaborando con gobiernos, sociedad civil y otras comunidades en todo el mundo”, concluyó.

Recientemente, una exmiembro de OpenAI sacó más trapitos al sol. Tal como repasamos en TN TEcno, Helen Toner, que integró la junta directiva del grupo, apuntó contra Altman y reveló detalles hasta ahora inéditos acerca de su destitución en noviembre de 2023, cuando fue apartado de su cargo durante un período breve y tumultuoso. Las acusaciones de Toner fueron de alto calibre: habló de un ambiente de trabajo “tóxico”, de “abusos psicológicos” y de maniobras de ocultamiento por parte del actual director ejecutivo.