trueNetLab logo
DE
Wer gibt der KI ihre Werte?

Wer gibt der KI ihre Werte?

Wenn ich einer KI eine Frage zur Konfiguration einer Firewall stelle, kann ich die Antwort überprüfen. Ich kann die Dokumentation lesen, die Einstellung testen und nachsehen, ob das Ergebnis stimmt.

Bei anderen Fragen fehlt dieser klare Maßstab. Soll ich einem Mitarbeiter eine zweite Chance geben? Ist eine bestimmte Überwachung gerechtfertigt? Wie viel persönliche Freiheit darf Sicherheit kosten?

Eine KI kann darauf ruhig, verständlich und überzeugend antworten. Gerade deshalb möchte ich wissen, nach welchen Maßstäben sie urteilt. Welche Interessen berücksichtigt sie? Wo zieht sie Grenzen? Und wer hat entschieden, dass diese Grenzen richtig sind?

Bei Anthropic und OpenAI interessieren mich deshalb neben den Fähigkeiten ihrer Modelle auch die Überzeugungen und Strukturen dahinter. Beide Unternehmen entwickeln Systeme, denen Menschen Entscheidungen anvertrauen sollen. Ihr Verständnis von Verantwortung verdient entsprechend genaue Prüfung.

Ein interessanter Zugang dazu ist der effektive Altruismus. Die Idee spricht mich an. Bei einigen ihrer Schlussfolgerungen werde ich allerdings vorsichtig.

Möglichst viel Gutes tun klingt überzeugend

Der effektive Altruismus beschäftigt sich mit der Frage, wie wir mit begrenztem Geld, begrenzter Zeit und unseren Fähigkeiten möglichst viel für andere bewirken können. Forschung und nachvollziehbare Argumente sollen helfen, zwischen verschiedenen Möglichkeiten zu entscheiden. Die Bewegung umfasst dabei unterschiedliche Anliegen, von globaler Gesundheit über Tierwohl bis zu Risiken durch fortgeschrittene KI.

Ich finde es vernünftig, Hilfe an ihrer Wirkung zu messen. Eine gute Absicht allein sagt wenig darüber aus, ob jemandem tatsächlich geholfen wurde. Wer Geld spendet oder Jahre seiner Arbeit investiert, sollte sich fragen dürfen, ob ein anderer Einsatz mehr bewirken würde.

Schwieriger wird es, wenn wir sehr unterschiedliche Arten von Wirkung vergleichen.

Beim Longtermismus erhält die langfristige Zukunft besonderes moralisches Gewicht. Menschen, die erst in ferner Zukunft leben könnten, sollen bei heutigen Entscheidungen berücksichtigt werden. Daraus entsteht unter anderem das Argument, Risiken ernst zu nehmen, die diese Zukunft dauerhaft zerstören könnten.

Auch daran finde ich zunächst wenig auszusetzen. Wir verlangen schließlich bei Umweltverschmutzung oder Atommüll ebenfalls, dass kommende Generationen berücksichtigt werden.

Meine Skepsis beginnt bei der Sicherheit unserer Vorhersagen. Wie zuverlässig können wir beurteilen, welche heutige Entscheidung das Leben in mehreren Jahrhunderten verbessert? Wie vergleichen wir einen belegbaren Nutzen heute mit der möglichen Vermeidung einer Katastrophe in ferner Zukunft?

Eine Rechnung kann mathematisch korrekt sein und trotzdem auf sehr unsicheren Annahmen beruhen. Wenn der angenommene zukünftige Nutzen nur groß genug ist, kann er in einer solchen Rechnung fast jede heutige Priorität übertreffen. Deshalb möchte ich gerade dort die Annahmen sehen, die Unsicherheiten und die Grenzen dessen, was mit dem erwarteten Nutzen gerechtfertigt werden soll.

Wie aus Ideen Einfluss wird

Die Verbindung zur KI-Entwicklung lässt sich zumindest an konkreten Finanzierungsentscheidungen zeigen. Open Philanthropy, heute Coefficient Giving, führte für 2017 eine Förderung von 30 Millionen US-Dollar für OpenAI auf. Philosophische Überlegungen zur Zukunft blieben damit keineswegs auf Bücher und Diskussionen beschränkt. Sie beeinflussten, welche Forschung Unterstützung erhielt.

Daraus lässt sich allerdings keine einheitliche Ideologie sämtlicher beteiligter Unternehmen ableiten. Eine Förderung erklärt weder jede spätere Geschäftsentscheidung noch die Überzeugungen aller Mitarbeiter.

Ich würde effektiven Altruismus, Longtermismus und KI-Sicherheitsforschung deshalb auseinanderhalten. Man kann vor gefährlichen KI-Fähigkeiten warnen, ohne eine bestimmte Zukunftsphilosophie zu teilen. Ebenso kann man effektives Helfen sinnvoll finden und die Prioritäten einzelner Organisationen kritisieren.

Für meine Bewertung von Anthropic und OpenAI zählt vor allem, was diese Unternehmen heute festlegen, welche Macht sie damit ausüben und wie diese Macht begrenzt wird.

Anthropic: Ein offengelegter Werteanspruch

Anthropic macht seine Vorstellungen für Claude ungewöhnlich ausführlich sichtbar. Die veröffentlichte „Constitution“ beschreibt gewünschte Werte und Verhaltensweisen und wird nach Unternehmensangaben im Training eingesetzt. Sie behandelt unter anderem Ehrlichkeit, Schadensvermeidung und menschliche Aufsicht. Anthropic weist zugleich darauf hin, dass Claudes tatsächliches Verhalten von diesen Zielen abweichen kann.

Das rechne ich dem Unternehmen positiv an. Ein öffentliches Dokument schafft eine Grundlage für Kritik. Ich kann eine Antwort daran messen und fragen, ob Claude den eigenen Vorgaben entspricht. Ich kann auch die Vorgaben selbst ablehnen.

Beim Begriff „Verfassung“ bleibe ich trotzdem vorsichtig. Er klingt nach gesellschaftlicher Verständigung und gemeinsam legitimierten Regeln. Hier beschreibt ein Unternehmen seine Vorstellungen für ein Produkt. Das ist eine wichtige Offenlegung, aber die Öffentlichkeit erhält dadurch noch kein verbindliches Mitentscheidungsrecht.

Auch die Begründung für Anthropics eigene Rolle verdient Aufmerksamkeit. Das Unternehmen beschreibt seine Entwicklung leistungsfähiger KI als bewusste Wette: Wenn solche Systeme ohnehin entstehen, sollten sicherheitsorientierte Labore an der Spitze mitarbeiten.

Ich kann dieses Argument nachvollziehen. Es enthält aber einen Interessenkonflikt, den ich nicht durch gute Absichten aufgelöst sehe. Wer überzeugt ist, verantwortungsvoller als die Konkurrenz zu handeln, kann daraus auch ableiten, selbst schneller wachsen und mehr Einfluss gewinnen zu müssen.

Deshalb interessiert mich, welche überprüfbaren Bedingungen diese Wette begrenzen. Wann müsste Anthropic eine Entwicklung verzögern? Welche Ergebnisse würden das Unternehmen dazu bringen, seine eigene Strategie infrage zu stellen?

Für die Unternehmensaufsicht hat Anthropic den Long-Term Benefit Trust geschaffen. Dessen Mitglieder sollen von finanziellen Interessen am Unternehmen abgeschirmt sein und über besondere Rechte Einfluss auf die Besetzung des Boards nehmen. Das Unternehmen selbst bezeichnete die Konstruktion bei ihrer Vorstellung als Experiment.

Diesen Versuch nehme ich ernst. Seine Existenz allein beweist jedoch noch nicht, wie wirksam die Kontrolle im Konfliktfall ist. Die veröffentlichten Börsenunterlagen beschreiben sowohl Rechte des Trusts als auch Einschränkungen und Verfahren, unter denen diese Rechte verändert werden können. Die Einzelheiten verdienen mehr Aufmerksamkeit als das beruhigende Wort „unabhängig“.

Mein vorläufiges Urteil: Anthropic macht seinen Werteanspruch konkret und angreifbar. Das ist eine Stärke. Für Vertrauen brauche ich zusätzlich Belege dafür, dass die vorgesehenen Kontrollen auch dann tragen, wenn eine Sicherheitsentscheidung Wachstum oder Umsatz kostet.

OpenAI: Gesellschaftlicher Auftrag und wirtschaftliche Interessen

Bei OpenAI wäre es ebenfalls zu einfach, nur auf kommerzielle Interessen zu schauen. Nach der veröffentlichten Unternehmensstruktur kontrolliert die gemeinnützige OpenAI Foundation die OpenAI Group, die als Public Benefit Corporation organisiert ist. Die Foundation kann die Mitglieder des Group-Boards bestellen und ersetzen. Zugleich ist sie am wirtschaftlichen Wert der Group beteiligt.

Das ist eine relevante Kontrollstruktur. Die pauschale Erzählung, der gemeinnützige Auftrag sei einfach vollständig verschwunden, wird ihr nicht gerecht.

Gleichzeitig sehe ich eine Spannung: Wenn die finanziellen Möglichkeiten der Foundation vom wirtschaftlichen Erfolg der Group profitieren, können Schutzauftrag und Wachstumsinteresse eng zusammenrücken. Das muss keine schlechte Entscheidung erzeugen. Es macht aber die Frage wichtig, wie unabhängig ein Verzicht auf Wachstum beurteilt werden kann.

Auch für das Verhalten seiner Modelle veröffentlicht OpenAI Regeln. Die Model Spec beschreibt unter anderem menschliche Kontrolle, Ehrlichkeit und Schadensvermeidung. Sie nennt außerdem den Schutz des Unternehmens vor rechtlichen und reputationsbezogenen Schäden als Ziel. OpenAI räumt ein, dass die eingesetzten Modelle die Spezifikation noch nicht vollständig erfüllen.

Ich finde es hilfreich, dass diese unterschiedlichen Interessen ausdrücklich benannt werden. Ein Unternehmen muss wirtschaftlich und rechtlich bestehen können. Als Nutzer möchte ich dennoch verstehen, wie entschieden wird, wenn mein Anliegen, das öffentliche Interesse und das Interesse des Anbieters auseinanderfallen.

Mein Maßstab ist hier derselbe wie bei Anthropic: Veröffentlichte Regeln sind wertvoll. Ihre praktische Umsetzung und die Möglichkeit, Entscheidungen wirksam anzufechten, müssen gesondert beurteilt werden.

Aus den Dokumenten allein kann ich deshalb keine seriöse Rangliste ableiten, welches Unternehmen „altruistischer“ ist. Sie zeigen Absichten und Strukturen. Für ein Urteil über die Wirkung brauche ich zusätzlich konkrete Entscheidungen und überprüfbare Ergebnisse.

Woran ich beide messen würde

Am meisten interessieren mich Situationen, in denen Verantwortung unbequem wird.

Eine Modellveröffentlichung zu verschieben, obwohl Wettbewerber aufholen. Einen Fehler so zu dokumentieren, dass Außenstehende seine Tragweite verstehen. Betroffenen eine wirksame Beschwerdemöglichkeit zu geben. Unabhängigen Prüfern genügend Zugang einzuräumen, damit sie eigene Schlussfolgerungen ziehen können.

Dabei würde ich beide Unternehmen an denselben Fragen messen:

  • Welche gesellschaftliche Wirkung ist tatsächlich belegt?
  • Welche Grenzen gelten verbindlich, und wer darf sie verändern?
  • Wer kann eine riskante Entscheidung stoppen?
  • Wie werden Fehler, Gegenargumente und Interessenkonflikte offengelegt?
  • Welche Möglichkeiten haben Menschen, die von einem System betroffen sind, ohne selbst dessen Kunde zu sein?

Diese letzte Frage beschäftigt mich besonders. Ein Unternehmen kann seine Kunden gut behandeln und trotzdem Entscheidungen treffen, deren Folgen andere tragen. Ein Kaufvertrag bildet solche Interessen nur teilweise ab.

Die Wertefrage wird praktisch

Wenn ein Assistent lediglich einen Textvorschlag macht, kann ich ihn verwerfen. Sobald ein System mit entsprechenden Berechtigungen E-Mails verschickt, Bewerbungen vorsortiert oder auf Unternehmensdaten zugreift, erhalten seine Vorgaben unmittelbare Folgen.

Dann wird aus einer philosophischen Diskussion eine Frage nach Zuständigkeiten. Darf der Assistent eine ausdrückliche Anweisung ablehnen? Wann muss er nachfragen? Welche Informationen darf er weitergeben? Und wer übernimmt Verantwortung, wenn er einen erlaubten Auftrag falsch versteht?

Für solche Systeme würde ich technische Begrenzungen verlangen: klare Berechtigungen, nachvollziehbare Aktionen und Möglichkeiten, einen Vorgang anzuhalten oder rückgängig zu machen. Ein wohlformulierter Wertekanon kann diese Kontrollen ergänzen. Er kann ihre Wirksamkeit nicht belegen.

Ähnlich sehe ich die gesellschaftliche Ebene. Entwickler brauchen Spielraum, um Produkte zu gestalten. Nutzer brauchen Wahlmöglichkeiten. Wo grundlegende Rechte oder erhebliche Schäden für Dritte berührt werden, braucht es außerdem verbindliche Regeln und unabhängige Kontrolle. Wie diese ausgestaltet werden, muss öffentlich verhandelt werden können.

Was mein Vertrauen stärken würde

Ich möchte Anthropic und OpenAI zugestehen, dass Menschen dort ernsthaft an nützlicher und sicherer KI arbeiten. Die veröffentlichten Grundsätze verdienen eine sorgfältige Auseinandersetzung. Ich halte es für unfair, jede Sicherheitsüberlegung als Marketing abzutun oder aus jeder geschäftlichen Entscheidung moralische Heuchelei abzuleiten.

Ebenso wenig möchte ich einem Unternehmen einen Vertrauensvorschuss geben, weil es seine Ziele besonders überzeugend beschreibt.

Am effektiven Altruismus gefällt mir die Aufforderung, nach der tatsächlichen Wirkung zu fragen. Diesen Anspruch würde ich auch auf die KI-Unternehmen selbst anwenden. Welche Vorteile schaffen ihre Systeme? Welche Schäden entstehen? Welche eigenen Annahmen haben sie korrigiert? Und welche Macht sind sie bereit, einer wirksamen Kontrolle zu unterstellen?

Meine Haltung bleibt deshalb offen, aber anspruchsvoll. Ich brauche keine Gewissheit, dass die Menschen hinter einem Modell moralisch immer richtigliegen. Ich möchte nachvollziehen können, wie ihre Entscheidungen zustande kommen, ihnen widersprechen können und wissen, dass Fehler Folgen für die Verantwortlichen haben.

Je mehr Entscheidungen wir KI übertragen, desto wichtiger werden diese Möglichkeiten.

Bis zum nächsten Mal,
Euer Joe

Quellen