OpenAI, la firma creadora de ChatGPT, ha creado un comité de seguridad y protección compuesto por miembros de su junta directiva, con la intención de evaluar sus salvaguardias y prácticas existentes en los próximos 90 días, mientras comienza a entrenar un nuevo modelo avanzado.

En un breve comunicado, la compañía explica que el comité será dirigido por su junta, incluyendo al CEO Sam Altman. Los expertos técnicos y de políticas de OpenAI también formarán parte de este grupo asesor y seguirán trabajando con especialistas en seguridad externos, incluido Rob Joyce, un funcionario estadounidense que sirvió como asesor de seguridad durante la administración de Donald Trump.

Jan Leike, jefe de alineación de OpenAI, que lideraba la investigación de seguridad, ha dimitido recientemente.

El comité comenzará a revisar las prácticas actuales de seguridad y protección de OpenAI en los próximos tres meses y luego “trasladará sus recomendaciones a la junta”.

La creación del comité se produce cuando OpenAI ha comenzado a entrenar su “modelo de nueva frontera”, un sistema que espera acercará a la compañía a la Inteligencia Artificial General (AGI).

A principios de este mes, OpenAI presentó un nuevo modelo emblemático, GPT-4o, un sistema que afirma es más rápido que GPT-4 Turbo.

La novedad ha dado lugar a una reciente controversia vinculada a su supuesta replicación de la voz de la estrella de cine Scarlett Johansson para su asistente de voz Sky AI, que desde entonces ha sido retirado del mercado.