OpenAI 2023: Das Board, das einknickte

Ausgangslage

Es ist der 17. November 2023, 17:00 Uhr pazifischer Zeit. Das Board von OpenAI hat gerade eine Pressemitteilung veröffentlicht. Sam Altman, das Gesicht von ChatGPT, der Mann, der OpenAI vom Forschungslabor zum am schnellsten wachsenden Verbraucherprodukt der Geschichte geführt hat, und die prominenteste KI-Figur der Welt, ist gefeuert. Mit sofortiger Wirkung.

Die Erklärung umfasst vier Sätze. Die Schlüsselformulierung: Altman sei „in seiner Kommunikation mit dem Board nicht durchgängig offen“ gewesen, und das Board „ist zu dem Schluss gekommen, dass er OpenAI nicht weiter führen kann“.

Das Board, das ihn gefeuert hat, besteht aus vier Personen:

• Ilya Sutskever (Mitgründer, Chief Scientist)
• Adam D'Angelo (CEO von Quora)
• Tasha McCauley (GeoSim Systems)
• Helen Toner (Georgetown CSET)

Greg Brockman, President von OpenAI, wurde nicht konsultiert. Er trat innerhalb einer Stunde zurück.

Die Governance-Struktur: OpenAI, Inc. ist eine gemeinnützige Organisation nach dem Recht von Delaware. Ihre Mission ist „die verantwortungsvolle Entwicklung und Pflege fortgeschrittener KI zum langfristigen Nutzen der Menschheit“. Sie kontrolliert OpenAI Global, LLC, eine Tochter mit „gedeckelten Gewinnen“, bei der Investoren bis zum 100-Fachen ihrer Investition erhalten können. Microsoft hat $13 Milliarden investiert. Das gemeinnützige Board ist die oberste Governance-Instanz: Es kann das Management feuern, es hat keine Aktionäre, und seine Treuepflicht gilt der Menschheit, nicht Investoren oder Mitarbeitenden.

Dieses Board hat gerade den CEO gefeuert.

Der Moment der Entscheidung

Du bist Technologieinvestor mit $200 Millionen in der Struktur mit gedeckelten Gewinnen von OpenAI. Es ist der 18. November 2023, Samstagmorgen. Satya Nadella ist gerade auf CNBC aufgetreten und hat angekündigt, dass Altman zu Microsoft wechselt, um ein neues KI-Forschungsteam zu leiten, zusammen mit „im Grunde dem ganzen Team“. Mitarbeitende von OpenAI verbreiten einen Brief, der den Rücktritt des Boards und Altmans Wiedereinsetzung fordert; 90%+ (über 700 Mitarbeitende) haben unterschrieben.

Drei Fragen liegen vor dir:

1. Die grundlegende Spannung der Governance-Struktur. Das gemeinnützige Board von OpenAI hat die rechtliche Befugnis, den CEO zu feuern. Sein genannter Grund ist „nicht offen“, ohne Einzelheiten. Aber Microsoft (kein Sitz im Board, $13B investiert) hat sofort signalisiert, dass es Altman einstellen und Talente abziehen wird. Mitarbeitende haben mit Massenkündigung gedroht. Wenn das Board seine rechtliche Befugnis korrekt ausübt, aber ein Ergebnis herbeiführt (Zusammenbruch des Unternehmens), das die gemeinnützige Mission zerstört, die es schützen soll, hat es seine Treuepflicht dann erfüllt oder verfehlt?

2. Der Vorwurf „nicht offen“. Der genannte Grund des Boards ist das wichtigste, und das unklarste, Element. Es wurden keine Einzelheiten genannt. Investoren, Mitarbeitende und Partner von OpenAI bleiben auf Spekulationen angewiesen. Mögliche Deutungen sind: (a) Altman spielte Sicherheitsrisiken herunter; (b) Altman täuschte das Board über Geschäftsbeziehungen; (c) Altman versuchte, die Zusammensetzung des Boards zu seinen Gunsten zu steuern; (d) Board-Mitglieder hatten persönliche Konflikte mit Altman. Kannst du ohne Einzelheiten bewerten, ob das Board angemessen gehandelt hat? Was sagt dir die Entscheidung, einen CEO zu feuern, ohne den Grund zu nennen, über die Vorbereitung des Boards selbst?

3. Die strukturelle Unmöglichkeit. OpenAIs Struktur aus gemeinnütziger Organisation mit gedeckelter Tochter sollte Kapital anziehen und zugleich den Vorrang der Mission wahren. Aber $13 Milliarden von Microsoft schaffen Verpflichtungen, die schwer einzuhalten sind, wenn das gemeinnützige Board Entscheidungen trifft, die die Fähigkeit der Organisation zerstören, ihre Mission umzusetzen. Kann eine gemeinnützige Organisation, die auf kommerzielles Kapital angewiesen ist, um Sicherheitsforschung zu finanzieren, echte Unabhängigkeit von den Interessen dieses Kapitals bewahren?

Wichtige Finanzkennzahlen

Die Mechanik der Governance-Krise

Die 5-tägige Abfolge, die die Entscheidung des Boards umkehrte:

17. November (Freitag): Das Board feuert Altman mit Verweis auf „nicht offen“. Greg Brockman tritt zurück. Drei leitende Forscher kündigen aus Solidarität. Altman twittert „I love OpenAI“.

17. November (abends): Satya Nadella verkündet, dass Altman und Brockman zu Microsoft wechseln, um eine neue KI-Forschungseinheit zu leiten. Alle Mitarbeitenden seien willkommen. Das schuf ein glaubwürdiges „Microsoft-Rettungsboot“, gab Talenten ein sofortiges Ziel und reduzierte den Verhandlungshebel des Boards nahezu auf null.

18. November (Samstag): 700+ Mitarbeitende von OpenAI unterschreiben einen offenen Brief: „Wir könnten gezwungen sein zu kündigen und zu Sam Altman zu wechseln“, falls das Board nicht zurücktritt und Altman wieder einsetzt. Ilya Sutskever unterschreibt und kehrt damit seine Stimme vom Vortag um. Dieser Moment ist ohne Beispiel: Ein Board-Mitglied distanziert sich innerhalb von 24 Stunden öffentlich von der eigenen Stimme.

19. November (Sonntag): Berichte über Verhandlungen. Altman soll ins Büro von OpenAI in San Francisco zurückgekehrt sein. Ein Bild von ihm mit einem Besucherausweis mit der Aufschrift „guest“ macht die Runde.

20. November (Montag): Altman wird vorläufig wieder eingesetzt, aber die Verhandlungen über die Zusammensetzung des Boards gehen weiter. Das ursprüngliche Board versucht, Bedingungen auszuhandeln.

22. November (Mittwoch): Altman wird offiziell wieder eingesetzt. Ein neues Board wird eingesetzt: Bret Taylor (Vorsitz), Larry Summers, Adam D'Angelo. Helen Toner und Tasha McCauley sind raus. Ilya Sutskever tritt zurück ins Glied.

Eingesetzte Frameworks

• Prinzipal-Agent-Problem in gemeinnütziger Governance. Das Board von OpenAI ist der „Prinzipal“, dessen Treuepflicht der Menschheit gilt, nicht Aktionären. Der CEO ist der Agent. Aber in gemeinnützigen Organisationen, die von kommerziellen Umsätzen und externem Kapital abhängen, ist die Prinzipal-Agent-Beziehung in der Praxis umgekehrt: Die Agenten (das Management) kontrollieren die Informationen und Beziehungen, die bestimmen, ob die Mission finanziert werden kann. Ein Board, das Management, Mitarbeitende oder Kapital nicht halten kann, kann seine Mission nicht umsetzen, unabhängig von seiner rechtlichen Befugnis.
• Vertrauensarchitektur. Altman wurde gefeuert, weil er „nicht offen“ gewesen sei. Vertrauen zwischen Board und CEO beruht auf beständigem, vollständigem Informationsaustausch. Aber wenn Boards nur begrenzten Einblick in den Betrieb und begrenzte technische Expertise haben (dieses Board hatte außer Sutskever keine KI-Forscher), hängen sie von den Informationen des Managements ab. Das Versagen des Vertrauens war zum Teil ein Versagen der Informationsarchitektur: Das Board hatte eine Governance-Struktur gestaltet, in der es unmöglich war zu wissen, was es nicht wusste.
• Strategischer Wendepunkt (Andy Grove). OpenAIs Übergang vom Forschungslabor zum kommerziellen Unternehmen war ein strategischer Wendepunkt. Wendepunkte unterziehen Governance-Strukturen, die für die vorige Ära entworfen wurden, einem Stresstest. Das Board von OpenAI war für ein rein gemeinnütziges Forschungslabor entworfen; es führte ein Unternehmen mit $1,3B Umsatz, 770 Mitarbeitenden und einem strategischen Partner mit $13B. Die Diskrepanz zwischen Governance-Design und operativer Realität war die eigentliche Ursache der Krise.
• Stakeholder-Theorie. Das Board handelte, als seien seine Stakeholder die gemeinnützige Mission und das abstrakte Konzept der Menschheit. In der Praxis gehörten zu den Stakeholdern von OpenAI Microsoft, 700 Mitarbeitende mit Equity, 100M ChatGPT-Nutzer, Regierungen, die sich um die Entwicklung von KI sorgen, und eine breitere Community für KI-Sicherheit. Ein Board, das seine vollständige Stakeholder-Landschaft nicht abbildet, wird überrascht sein, wenn diese Stakeholder mobil machen.

Diskussionsfragen

1. Das Board von OpenAI feuerte den CEO, ohne zu sagen, was „nicht offen“ bedeutete. Fünf Tage später setzte es ihn wieder ein. Die Board-Mitglieder, die für seine Entlassung stimmten, sind inzwischen größtenteils weg. Was sagt dir diese Abfolge über Vorbereitung, Verfahren und Koalitionsbildung des Boards, und was sollte ein Board anders machen, bevor es eine unumkehrbare Entscheidung über die Absetzung eines CEO trifft?
2. Microsoft hat keinen Sitz im Board von OpenAI, hat aber $13 Milliarden investiert und kontrolliert die Azure-Infrastruktur, auf der die Modelle von OpenAI laufen. Satya Nadellas Angebot, Altman einzustellen, war der entscheidende Faktor für die Umkehr der Entscheidung des Boards. Ist Microsoft ein faktischer Kontrolleur von OpenAI? Wenn ja, was bedeutet das für die Glaubwürdigkeit der gemeinnützigen Governance-Struktur?
3. Ilya Sutskever stimmte am 17. November für Altmans Entlassung und unterschrieb am 18. November den Brief zur Wiedereinsetzung. Er sprach von „tiefem Bedauern“. Was sagt diese Kehrtwende über den Beratungsprozess vor der Abstimmung? Wenn ein Board-Mitglied eine bedeutende Stimme innerhalb von 24 Stunden umkehrt, welche Governance-Pathologien offenbart das?
4. Die erklärte Mission von OpenAI ist „die verantwortungsvolle Entwicklung und Pflege fortgeschrittener KI zum langfristigen Nutzen der Menschheit“. Seine kommerzielle Tochter produziert ChatGPT, das mit Anthropic, Google und Microsofts eigenem Copilot konkurriert. Wenn diese kommerziellen Produkte selbst Risiken für die Menschheit sind (eine Sicht, die einige Forscher zur KI-Sicherheit vertreten), ist die hybride Struktur aus Mission und Kommerz dann in sich widersprüchlich, und wenn ja, was ist die richtige Governance-Form für ein AGI-Unternehmen?
5. Nach Altmans Wiedereinsetzung holte OpenAI Larry Summers (früherer US-Finanzminister) und Bret Taylor (früherer Co-CEO und Chairman von Salesforce) ins Board. Das sind ausgewiesene Personen mit konventioneller Erfahrung in Unternehmensführung, aber begrenzter Expertise in KI-Sicherheit. Ist ein „professionelleres“ Board künftig eher oder weniger bereit, auf Sicherheitsbedenken zu reagieren, wenn es zugleich stärkere Anreize hat, kommerziellen Wert zu schützen?

Das tatsächliche Ergebnis (am Ende der Session aufgedeckt)

22. November 2023: Altman wird mit erweiterten Befugnissen wieder eingesetzt, und über künftige Rechte zur Zusammensetzung des Boards wird verhandelt.

2024: OpenAI sammelt $6,6 Milliarden bei einer Bewertung von $157 Milliarden ein, die größte private Tech-Finanzierungsrunde der Geschichte. Altmans Macht festigt sich; mehrere auf Sicherheit fokussierte Forscher gehen (Jan Leike, Ilya Sutskever und andere nennen Bedenken zur Sicherheitskultur).

Mai 2024: Ilya Sutskever verlässt OpenAI und gründet Safe Superintelligence Inc. (SSI). Sein Abgang wird als Bestätigung der Spannung zwischen Sicherheit und Kommerzialisierung gesehen, die die Krise vom November 2023 ausgelöst hatte.

Die Lehre: Governance-Befugnis ohne organisatorische Legitimität ist nicht durchsetzbar. Das Board von OpenAI hatte die rechtliche Befugnis, den CEO zu feuern. Ihm fehlten die Vorbereitung, die Informationen, die Beziehungen zu Stakeholdern und die Koalitionsbildung, um die Folgen der Ausübung dieser Befugnis zu überstehen. Die Lehre ist nicht, dass Boards nie CEOs feuern sollten, sondern dass Governance-Entscheidungen dieser Größenordnung monatelange Vorbereitung, konkrete dokumentierte Gründe und einen parallel laufenden Plan für das Stakeholder-Management erfordern.

Quellen

• The New York Times, „The Tumultuous 5 Days That Nearly Brought Down OpenAI“ (November 2023).
• The Atlantic, „OpenAI's Boardroom Battle“ (November 2023).
• Blogbeiträge von OpenAI: „OpenAI announces leadership transition“ (17. Nov.); „Sam Altman returns as CEO“ (22. Nov.).
• Satya Nadella, CNBC-Interview, 18. November 2023.
• Helen Toner, Interview mit Ted Seides, Podcast Capital Allocators (Mai 2024), erster ausführlicher Bericht über die Beratungen des Boards.
• Jahresbrief von OpenAI 2023.