Un ex alto ejecutivo que dejó OpenAI por motivos de seguridad acaba de unirse a un rival. Y una ex directora dio su primera cuenta detallada el martes de por qué Altman fue destituido, horas después de que el fabricante de ChatGPT anunciara que habÃa comenzado a entrenar a su siguiente modelo de inteligencia artificial e introdujera un nuevo comité de seguridad, liderado por Altman.
El aluvión de noticias ha renovado las preguntas sobre las prioridades de OpenAI y cómo regular la tecnologÃa más transformadora desde internet.
¿Los beneficios tienen prioridad sobre la seguridad? Jan Leike ayudó a dirigir a un equipo ahora disuelto para asegurarse de que la tecnología de OpenAI no dañara a la humanidad. Pero cuando Leike renunció este mes, advirtió que la seguridad estaba pasando a un segundo plano. Ahora, se está uniendo a Anthropic, una start-up de inteligencia artificial fundada por ex alumnos de OpenAI que se habían separado de Altman por preocupaciones similares.
Otros están expresando preocupaciones similares. Helen Toner estuvo entre los miembros del consejo de administración y los ejecutivos que expulsaron a Altman. Explicó por qué en el último episodio de “The Ted AI Show” podcast. El episodio se lanzó el martes antes de las últimas noticias de OpenAI:
Sobre la seguridad: “Nos dio información inexacta sobre la pequeña cantidad de procesos de seguridad formales que la empresa tenía en marcha”.
Sobre ChatGPT: “Cuando salió ChatGPT, el consejo no fue informado previamente al respecto. Nos enteramos de ChatGPT en Twitter.”
Sobre el fondo de riesgo de OpenAI: “Sam no informó al consejo que era propietario del fondo de capital riesgo de OpenAI.”
OpenAI rechazó las acusaciones. Bret Taylor, el presidente del consejo que también liderará el nuevo comité de seguridad, dijo en el podcast en un comunicado que una revisión no encontró irregularidades y que la mayoría de los empleados querían que Altman regresara.
Las acusaciones no parecen frenar a OpenAI. La compañía avanza para construir una inteligencia artificial general, una máquina que puede hacer lo que hace el cerebro humano. Y el apoyo de inversores a Altman tampoco parece tambalearse: la compañía cerró una ronda de financiación en febrero que la valoró en $80 mil millones. (The New York Times ha demandado a OpenAI y a Microsoft, alegando violación de derechos de autor de contenido noticioso relacionado con sistemas de inteligencia artificial.)