Google DeepMind, die Entwicklungsabteilung für künstliche Intelligenz des Unternehmens, hat eine erhebliche Umverteilung seines Personals vorgenommen. Ungefähr 90 Forscher, die sich zuvor auf die KI-Sicherheit konzentrierten, wurden in den Bereich Global Affairs versetzt, wo sie allgemeine Richtlinien für die verschiedenen Dienste von Google verwalten werden.
Diese Experten sind von entscheidender Bedeutung bei der Bewertung potenzieller biologischer, chemischer, radiologischer und nuklearer Bedrohungen im Zusammenhang mit Modellen der künstlichen Intelligenz. Die Anwesenheit eines Teams, das sich der KI-Sicherheit widmet, ist für die Identifizierung von Fehlern in den Systemreaktionen unerlässlich, insbesondere weil es sich mit komplexen Themen befassen und potenzielle böswillige Verwendungen testen kann.
Informationen zu diesen internen Änderungen wurden durch die Unternehmens-E-Mails von Google bekannt gegeben. Dieser Schritt erfolgt kurz nachdem Demis Hassabis als CEO von DeepMind zurückgetreten ist, um den Vorstandsvorsitz und die Rolle des Chefwissenschaftlers bei Alphabet, der Muttergesellschaft von Google, zu übernehmen.
Die Rolle der Sicherheit in der künstlichen Intelligenz im aktuellen technologischen Szenario
Die rasanten Fortschritte im Technologiesektor haben die Bedeutung von Fachkräften mit Kenntnissen in den allgemeinen Naturwissenschaften für das Management der Entwicklung künstlicher Intelligenz verstärkt. Konkurrenten wie OpenAI und Anthropic haben bereits große Besorgnis über die Entwicklung ihrer eigenen Modelle geäußert, die Fähigkeit hervorgehoben, tiefer in wissenschaftliche Themen einzutauchen, und versprochen, Sicherheitsmaßnahmen bei der Behandlung sensibler Themen einzubeziehen.
Google gab bekannt, dass der Transfer dieser Fachkräfte darauf abzielt, ihre Aktivitäten näher an den Produktbereich heranzuführen, darunter beispielsweise das Suchtool. Unter den Mitarbeitern selbst besteht jedoch die Sorge, dass diese Änderung den Zugriff des Teams auf die Prozesse zur Erstellung neuer Versionen von Gemini einschränken könnte, was es schwierig machen könnte, potenzielle Fehler im System zu erkennen.
In einer elektronischen Nachricht an die Mitarbeiter versicherte Helen King, Vizepräsidentin von DeepMind und verantwortlich für KI-Sicherheit, dass das Team uneingeschränkten Zugriff auf die in der Entwicklung befindlichen Innovationen behalten werde.
Weitere aktuelle Veränderungen bei Google DeepMind
Die Migration der Forscher soll Anfang September beginnen und stellt eine weitere Änderung dar, die Google in seiner Abteilung für künstliche Intelligenz vorantreibt. In einem früheren Schritt, Anfang August, wurde die Führung von DeepMind mit dem Ausscheiden von Demis Hassabis als CEO geändert. Er wurde durch Koray Kavukcuoglu ersetzt, während Jeff Dean Chefwissenschaftler wurde. Darüber hinaus wurde das Alphafold-Projekt, das Hassabis den Nobelpreis für Chemie einbrachte, eingestellt.
Neben Dean, der über 27 Jahre Erfahrung bei Google verfügte und an der gesamten KI-Entwicklungsreise des Unternehmens beteiligt war, verließen auch andere langjährige Experten das Unternehmen. Viele entschieden sich dafür, neue Startups zu gründen oder sich anderen Forschungsteams für künstliche Intelligenz anzuschließen. Unter ihnen sind Noam Shazeer und John Jumper, die jeweils zu OpenAI und Anthropic gingen. Auf dem Markt herrscht die Befürchtung, dass die jüngsten Änderungen an DeepMind mehr Fachleute dazu ermutigen könnten, nach ähnlichen Möglichkeiten zu suchen.
