Google DeepMind, la división de desarrollo de inteligencia artificial de la compañía, llevó a cabo una importante reasignación de su personal. Aproximadamente 90 investigadores, anteriormente centrados en la seguridad de la IA, fueron transferidos al sector de Asuntos Globales, donde gestionarán las políticas generales que afectan a los distintos servicios de Google.

Estos expertos son cruciales para evaluar posibles amenazas biológicas, químicas, radiológicas y nucleares vinculadas a los modelos de inteligencia artificial. La presencia de un equipo dedicado a la seguridad de la IA es esencial para identificar fallas en las respuestas del sistema, especialmente porque pueden profundizar en temas complejos, permitiendo probar posibles usos maliciosos.

La información sobre estos cambios internos fue revelada a través de los correos electrónicos corporativos de Google. Esta medida se produce poco después de que Demis Hassabis dimitiera como director ejecutivo de DeepMind para asumir la presidencia de la junta y el papel de científico jefe en Alphabet, la empresa matriz de Google.

El papel de la seguridad en la inteligencia artificial en el escenario tecnológico actual

Los rápidos avances en el sector tecnológico han reforzado la importancia de profesionales con conocimientos en ciencias generales para gestionar el desarrollo de la inteligencia artificial. Competidores como OpenAI y Anthropic ya han expresado gran preocupación por la evolución de sus propios modelos, destacando la capacidad de profundizar en temas científicos y prometiendo incorporar medidas de seguridad cuando se traten temas sensibles.

Google anunció que el traslado de estos profesionales tiene como objetivo acercar sus actividades al área de productos, incluida la herramienta de búsqueda, por ejemplo. Sin embargo, entre los propios empleados existe la preocupación de que este cambio pueda limitar el acceso del equipo a los procesos de creación de nuevas versiones de Gemini, lo que podría dificultar la detección de posibles fallos en el sistema.

En un mensaje electrónico enviado a los empleados, Helen King, vicepresidenta de DeepMind responsable de la seguridad de la IA, aseguró que el equipo mantendrá pleno acceso a las innovaciones en desarrollo.

Otras transformaciones recientes en Google DeepMind

La migración de investigadores debería comenzar a principios de septiembre, lo que representa un cambio más impulsado por Google en su división de inteligencia artificial. En un movimiento anterior, a principios de agosto, el liderazgo de DeepMind cambió con la salida de Demis Hassabis como director ejecutivo. Fue reemplazado por Koray Kavukcuoglu, mientras que Jeff Dean se convirtió en científico jefe. Además, se interrumpió el proyecto Alphafold, que le valió a Hassabis el Premio Nobel de Química.

Además de Dean, que tenía 27 años de experiencia en Google y participó en todo el proceso de desarrollo de la IA de la empresa, otros expertos de larga data también abandonaron la empresa. Muchos optaron por fundar nuevas empresas o unirse a otros equipos de investigación de inteligencia artificial. Entre ellos se encuentran Noam Shazeer y John Jumper, quienes optaron por OpenAI y Anthropic, respectivamente. Existe el temor en el mercado de que los cambios recientes en DeepMind puedan alentar a más profesionales a buscar oportunidades similares.