#Verantwortungslücke 3: Wer, wenn nicht Jensen Huang?

Publiziert am 28. August 2026 von Matthias Zehnder

Der 6. Juli 2026 war ein Sonntag wie jeder andere in Saporischschja: Es war warm, aber mit 28 Grad nicht zu warm. Ein Sommertag. Aus diesem heiteren Sommerhimmel stiess eine russische Drohne vom Typ «Molniya» auf die ukrainische Stadt hinunter. Die Drohne zielte auf eine Tankstelle, schlug aber in eine Hauswand ein. Ihre Sprengladung tötete drei Menschen: die 19-jährige Buchhaltungsstudentin Tetiana Bubynets und zwei Männer im Alter von 41 und 48 Jahren. Ein ganz normaler Sonntag also. Und doch hat sich mit diesem Drohnenangriff etwas fundamental verändert: Die Drohne hatte keine Antennen. Da war kein russischer Soldat hinter der Front, der sie gesteuert hätte. Die Drohne hat selbstständig entschieden, was sie angreift. Ukrainische Forensiker haben die Trümmer untersucht. Sie fanden einen kleinen Steuerungscomputer vom Typ Jetson Orin von Nvidia. Darauf waren Geländebilder und Zielerkennungscodes gespeichert. Die «New York Times» hat über den Angriff berichtet. Laut der Zeitung ist es der erste dokumentierte Fall ziviler Toter durch eine vollautonome russische Drohne. Die grosse Frage, die sich danach stellt: Wer hat Tetiana Bubynets umgebracht? Wer ist verantwortlich für ihren Tod, wenn das Jetson Orin-Modul selbstständig über das Ziel entschieden hat? Nvidia sagte gegenüber der «New York Times», beim Minicomputer handle es sich um ein Produkt, das für Studierende, Entwickler und kleine Unternehmen gedacht sei. Ich frage mich: Was denkt Jensen Huang? Wer ist für den Tod von Tetiana Bubynets verantwortlich?

Ich lade Sie heute zum dritten Mal dazu ein, mit mir über Verantwortung nachzudenken. Genauer: über die Verantwortungslücken der Gegenwart. In der ersten Folge haben wir gefragt, was Sam Altman über den Einbruch seiner KI bei Hugging Face wusste und ob Nichtwissen vor Verantwortung schützt. In der zweiten Folge ging es um Peter Thiel, der sich der Verantwortung entzieht und sagt: «Ich schulde niemandem Rechenschaft.» Heute fragen wir: Wer ist verantwortlich, wenn es keinen Täter gibt? Die 19-jährige Buchhaltungsstudentin Tetiana Bubynets ist am 6. Juli 2026 in Saporischschja umgebracht worden. Der Täter war: niemand.

Wir sind uns einig: Wenn ich, sagen wir: Messer produziere und Sie mit einem meiner Messer einen Menschen umbringen, dann sind Sie dafür verantwortlich, nicht ich. Ein Messer ist ein Werkzeug. Wie es eingesetzt wird, liegt ganz wörtlich in der Hand des Benutzers. Sie können mit einem Messer ein Männchen schnitzen wie Michel aus Lönneberga, Sie können sich ein Stück Käse abschneiden oder Sie können damit jemanden verletzen. Sie haben das Messer in der Hand und vollbringen die Tat. Damit sind Sie verantwortlich.

Was ist mit einer vollautonomen Drohne?

Dieses Prinzip gilt auch für ferngesteuerte Drohnen: Wenn im russischen Hinterland ein Soldat eine Drohne mit einem Joystick auf ein ukrainisches Haus stürzt, dann ist dieser russische Soldat dafür verantwortlich. Er muss dafür die Drohne nicht in den eigenen Händen halten. Es genügt, wenn er den richtigen Knopf drückt. Die «Molniya»-Drohne wurde nicht von einem Soldaten gesteuert, sondern von einem Nvidia-Chip, einem Minicomputer vom Typ Jetson Orin. Ist also dieser Computer in der «Molniya»-Drohne verantwortlich für den Tod von Tetiana Bubynets? Wir haben schon in der 1. Folge der Verantwortungslücken festgestellt, dass die KI so wenig einen eigenen Willen hat wie Wasser. Ist es also Nvidia und damit letztlich Nvidia-Chef Jensen Huang?

Dass Sam Altman nichts über den Angriff seiner KI auf Hugging Face wusste, ist mindestens zweifelhaft. Immerhin wurden in seiner Verantwortung für den Test der KI die Sicherheitsfilter abgeschaltet. Peter Thiel verweigert sich der Rechenschaft sogar explizit. Aber was ist mit Jensen Huang? Ich glaube nicht, dass wir dem CEO von Nvidia konkret etwas vorwerfen können. Auffällig ist, dass sich Nvidia gegen den amerikanischen «Chip Security Act» wehrt. Das Gesetz würde eine Standortverifikation vorschreiben. Das wäre mit der bereits verbauten Kryptohardware umsetzbar per Firmware-Aktualisierung. Nvidia wehrt sich dagegen und sagt gleichzeitig, dass es leider nicht wisse, wo seine Chips zum Einsatz kommen.

Die Verantwortungskette verliert sich

Denn die Kette ist unübersichtlich. Nvidia stellt Halbleiter her und verkauft sie an autorisierte Distributoren. Das Unternehmen hält die Exportgesetze ein. Zwischen Jensen Huang und der Studentin in Saporischschja liegen die Fabriktür, sein Vertrieb, ein Distributor, ein Wiederverkäufer, vermutlich mehrere Zwischenhändler, ein chinesischer Elektroniklieferant, ein russischer Drohnenbauer, ein Softwareteam und Soldaten, die ihre Drohne in Stellung gebracht haben. Wer von ihnen ist verantwortlich für den Tod von Tetiana Bubynets?

Wir können niemanden in dieser langen Kette von Menschen des Mordes beschuldigen. Der Soldat, der die Drohne startete, wusste nicht, welches Ziel sie anfliegt. Der Programmierer hat kein Ziel ausgewählt, sondern Merkmale definiert. Der Drohnenhersteller wusste nicht, wer seine Drohne einsetzen wird. Die lange Kette vom russischen Einkäufer über Zwischenhändler, Wiederverkäufer und Distributor führt zwar zu Nvidia. Aber die Firma verkauft kein Kriegsmaterial, sondern Consumer-Produkte für Studierende. Die Firma selbst sagt, dass sie keine Chips nach Russland verkaufe, keine Kontrolle über Wiederverkäufer habe und Produkte, die sie verkauft habe, nicht nachverfolgen könne.

Das Problem der vielen Hände

Nvidia lügt nicht. Jede einzelne dieser Behauptungen ist zutreffend. Aber die Verantwortung löst sich in Luft auf. Das Studentenwerkzeug, das in der Ukraine zur Tötungsmaschine wurde, ist durch zu viele Hände gegangen. Das ist das «Problem of Many Hands», das Problem der vielen, der zu vielen Hände. Es beschreibt das Phänomen, dass in komplexen Organisationen oder Systemen nicht festgestellt werden kann, wer für eine Entscheidung moralisch oder rechtlich die Verantwortung trägt. Wenn sehr viele Personen an einem Ergebnis mitwirken, gibt es keine individuelle Zurechenbarkeit mehr. Das Gesamtsystem verursacht zwar einen Schaden, aber niemand ist dafür verantwortlich.

Die Ursache dafür ist banal: Arbeitsteilung, Administration und Zersplitterung. Entscheidungen werden über ganze Kaskaden von Abteilungen, Hierarchien und Gremien verteilt. Der Einzelne führt nur einen winzigen, oft harmlos wirkenden kleinen Teil aus. Keine einzelne Person übersieht das ganze Bild oder kennt alle Konsequenzen des Ganzen. Deshalb fühlt sich auch niemand für das Ganze verantwortlich.

Vom Toilettenputzer zum CEO

Die Summe, das ist der Tod von Tetiana Bubynets. Wie viel Nvidia steckt darin? Wer, wenn nicht Jensen Huang, ist dafür verantwortlich? Er hat 1993 Nvidia gegründet und leitet das Unternehmen seither als CEO. Die Firma stellt Grafikprozessoren her. Das sind Prozessoren, die auf massive Parallelität ausgelegt sind: Sie rechnen Tausende gleichartiger Operationen gleichzeitig. Gedacht waren sie für Grafikkarten und Spielkonsolen. In den letzten Jahren stellte sich heraus: Sie sind besonders gut für KI-Arbeiten geeignet. Das bescherte Nvidia in den letzten Jahren einen enormen Boom. Heute ist Nvidia mit einer Marktkapitalisierung von über 5 Billionen US-Dollar das wertvollste Unternehmen der Welt. Jensen Huang ist in Taiwan geboren und wurde von seinen Eltern als Kind alleine in die USA geschickt. Er hat es vom Toilettenputzer zu einem der reichsten Unternehmer Amerikas gebracht.

Ist Jensen Huang verantwortlich dafür, was seine Chips anrichten auf der Welt? Im Mai 2026 antwortete er im Gespräch mit Becky Quick auf eine Frage zum KI-Einsatz im Militär: Ein CEO sei eben nicht vom Volk gewählt. Wenn die USA sich entscheiden würden, in einen Krieg einzutreten, würde er es vorziehen, wenn ihn niemand anrufen und um seine Erlaubnis für den Einsatz seiner Technologie bitten würde. Wenn er nicht einverstanden sei damit, könne er seine Rechte als Bürger geltend machen und beim nächsten Mal seine Stimme abgeben.

Jensen Huang möchte nicht gefragt werden

Jensen Huang bestreitet also nicht, dass seine Chips in Waffensystemen landen können. Er sagt, er sei dafür nicht zuständig. Was mit seinen Produkten nach dem Verkauf passiert, sei nicht seine Sache. Wenn es um Waffen geht, stehe ihm keine Entscheidung zu, es seien die Bürgerinnen und Bürger, die dann entscheiden sollten. Als Schweizer kann ich das ja nachvollziehen. Aber er sagt auch: Ich möchte bitte nicht gefragt werden.

Für Jensen Huang hat seine Verantwortung eine klare Grenze: sie endet an den Toren seines Unternehmens. Rohstoffbeschaffung, Arbeitsbedingungen, Fertigungsfehler, Produktsicherheit – dafür ist der Hersteller zuständig. Ausserhalb des Fabrikgeländes endet die Zuständigkeit. Nvidia sieht sich deshalb nicht in der Verantwortung, wenn es um Verteilung, Verkauf, Zweitmarkt, Anwendung, Endnutzung und Kriegseinsatz geht. Das ist Sache der Kunden, der Zollbehörden und von gewählten Amtsträgern.

Ein Airbag für Chips

Auf den ersten Blick ist das logisch. Wenn Sie ein Auto kaufen, können Sie auch niemanden haftbar machen dafür, wenn Sie sich verfahren. Aber jeder Autohersteller baut eine ganze Reihe von Sicherheitstechniken in seine Wagen, damit Sie möglichst sicher ans Ziel kommen. Autos sind heute mit Sicherheitsgurten, Airbags und Knautschzonen ausgestattet, sie haben eine Typenzulassung und tragen ein Nummernschild. Die meisten dieser Sicherheitstechniken sind nicht gerade auf Wunsch der Hersteller eingeführt worden, sondern weil wir als Gesellschaft uns darauf geeinigt haben, dass es sinnvoll ist. Es stellt sich deshalb die Frage, welche Airbags und welche Sicherheitsgurten wir bei Chips einführen müssen.

Leider ist das nicht so einfach. Ein einzelner Chip durchläuft heute in der Fertigung zwischen 400 und 1400 Prozessschritte. An der Fertigung sind über fünfzig verschiedene Typen von Fertigungs- und Testanlagen beteiligt. Ein moderner Chip hat bis zu hundert Schichten und besteht aus Hunderten verschiedenen Materialien. Ein Chip ist also im wörtlichen Sinn das Produkt von «many hands», es sind vermutlich sogar hunderttausende von Händen.

Die Niemandsherrschaft

In der langen Entstehungskette eines solchen Chips von den Rohstoffen über Wafer, Lithografie, Fertigung, Verpackung, Verkauf, Serverbau, Rechenzentrum, Trainingsdaten, Datenannotation, Modelltraining, Feinabstimmung und Anwendung gibt es nur ganz wenige Stellen, wo der Gesetzgeber eingreift. Exportbeschränkungen schützen die Herstellerländer, beim Trainieren einer KI gilt das Urheberrecht und am Ende untersteht die Künstliche Intelligenz hier in Europa dem AI Act und dem Datenschutzrecht. Tetiana Bubynets haben diese Regeln nichts genützt. Aus ihrer Sicht regelt niemand die KI und ihre Infrastrukturen.

Niemand regelt, niemand herrscht. Hannah Arendt hat das Wort von der «Niemandsherrschaft» geprägt. 1970 schreibt sie in «Macht und Gewalt» über die klassischen Herrschaftsformen Monarchie, Aristokratie, Demokratie, Tyrannis und fügt eine weitere dazu:

Wir müßten heute diesen Grundformen noch die jüngste und vielleicht furchtbarste Herrschaftsform hinzufügen, die Bürokratie oder die Herrschaft, welche durch ein kompliziertes System von Ämtern ausgeübt wird, bei der man keinen Menschen mehr, weder den Einen noch die Wenigen, weder die Besten noch die Vielen, verantwortlich machen kann, und die man daher am besten als Niemandsherrschaft bezeichnet. (Im Sinne der Tradition, welche die Tyrannis als die Herrschaft definierte, der man keine Rechenschaft abfordern kann, ist die Niemandsherrschaft die tyrannischste Staatsform, da es hier tatsächlich Niemanden mehr gibt, den man zur Verantwortung ziehen könnte.)
— Hannah Arendt: Macht und Gewalt, S. 58

Im englischen Original hat Hannah Arendt diese «tyranny without a tyrant» wörtlich «the rule by Nobody» bezeichnet. Auf Deutsch wurde das unterschiedlich übersetzt: als «Niemandsherrschaft», als «Herrschaft der Niemande» und als «Herrschaft des Niemand». Mir persönlich gefällt «Niemandsherrschaft» am besten, weil das Wort die Ungreifbarkeit am besten ausdrückt.

Niemand herrscht, alle profitieren

Interessant ist dabei, dass Niemandsherrschaft nicht gleichbedeutend ist mit Niemandsprofit. Diese Woche hat Nvidia die Geschäftszahlen publiziert. Der KI-Boom treibt Umsatz und Ertrag der Firma weiter an. Der Umsatz von Nvidia stieg im Vergleich zum Vorjahresquartal um 106 Prozent auf 96,2 Milliarden Dollar, der Reingewinn legte um 126 Prozent auf 59,7 Milliarden Dollar zu. Davon profitieren wir auch in der Schweiz. Ich meine damit nicht nur die Pensionskassen, sondern unsere Nationalbank. Wissen Sie, was die grösste Aktienposition der Schweizerischen Nationalbank ist? Nvidia Corporation: Die SNB besitzt 65,11 Millionen Aktien am Unternehmen. Im Moment entspricht das fast 15 Milliarden Dollar.

Wer hat das entschieden? Niemand. Die SNB macht keine strategischen Investitionen in Unternehmen. Die Aktienbestände in den USA entstehen, weil die SNB US-Dollar kauft, um der Aufwertung des Schweizer Frankens entgegenzuwirken. Ein Teil dieser Devisenreserven investiert die SNB in die wichtigsten amerikanischen Aktien. Und das, Sie ahnen es, auf der Basis von Regeln. Das ist Niemandsherrschaft, aber unser aller Profit.

Auch ein kleines Rädchen kann etwas tun

Zurück zu den komplizierten Lieferketten der Chipindustrie. Die verschlungene globale Vernetzung der Chipproduktion hat also zu einer Niemandsherrschaft geführt. Niemand hat das so gewollt, niemand steuert das, niemand ist verantwortlich. Selbst die unsichtbare Hand des Marktes hat es nicht mehr in der Hand. Müssen wir also aufgeben?

Nein. Hannah Arendt selbst begründet das im Vortrag «Was heißt persönliche Verantwortung in einer Diktatur?». Darin spricht sie von der Rädchen-Theorie. Wenn jemand vor Gericht sage, er sei nur ein kleines Rädchen gewesen und habe nur ausgeführt, was ihm gesagt worden sei, schuld sei das System, dann würde das Gericht fragen, warum er (oder sie) ein Rädchen geworden und geblieben sei.

Hannah Arendt argumentiert, dass ein System, ein «-ismus» oder ein Trend nie vor Gericht stehe. Vor Gericht stehe immer ein einzelner Mensch, denn Schuld sei immer persönlich. 1968 sagt sie in einem Vortrag:

Wo alle schuldig sind, ist es keiner. Schuld, anders als Verantwortung, sondert immer aus; sie ist ausschließlich persönlich. … Worauf ich hier hinaus will, ist eine schärfere Trennungslinie zwischen politischer (kollektiver) Verantwortung auf der einen Seite, und moralischer und/oder rechtlicher (persönlicher) Schuld auf der anderen.
— Hannah Arendt: Kollektive Verantwortung. 1968

Das ist der Punkt, an dem wir einhaken können. Nein, wir können Jensen Huang keine persönliche Schuld am Tod von Tetiana Bubynets zuweisen. Ihr Tod ist die Folge einer Niemandsherrschaft auf einem Chip von Nvidia. Wir können Nvidia allenfalls vorwerfen, dass sich das Unternehmen gegen Standortverifikation wehrt. Wir sind auch nicht kollektiv schuld daran. Aber das heisst nicht, dass niemand verantwortlich wäre dafür: Wir sind kollektiv dafür verantwortlich, weil wir es politisch unterlassen haben, etwas dagegen zu tun.

Wo sehen Sie die Verantwortung?

In einer immer komplexeren Welt tritt das «Problem of many hands» immer häufiger auf. Das heisst aber nicht, dass die Verantwortung zwischen den fragmentierten Teilen der globalen Wirtschaft versickert. Nur die Schuld lässt sich nicht mehr eindeutig zuweisen. Ich habe Ihnen deshalb genau dafür ein kleines Werkzeug gebaut: Mein kleines Tool legt Ihnen die ganze Kette vor, von der Drohne bis zu Ihnen. Dabei können Sie die Kette zweimal abschreiten, mit zwei verschiedenen Fragen. Bei jedem Glied stellen Sie einen Regler ein und bestimmen einmal den Grad der Schuld und einmal den Grad der Handlungsmöglichkeit. Interessant wird dabei sein, ob Sie unterschiedlich antworten.

Viele Hände

Wie ist das in der realen Politwelt? Der Bundesrat lässt der KI in der Schweiz weitgehend freie Hand. Er hat sich 2025 dazu entschieden, die KI «sektoriell» zu regeln. Er zerlegt also die KI-Welt in Bildung, Gesundheit, Verkehr und ähnliche Gebiete und verliert damit schon in der Regelung die Übersicht. Bis jetzt gemacht hat der Bundesrat, Sie ahnen es, nichts. Auch Bundesrat und Parlament lassen also die Verantwortung versickern wie die Chefs der grossen Firmen.

Das ist bemerkenswert. Denn das Problem der zu vielen Hände ist ursprünglich die Ausrede der Ohnmächtigen: des kleinen Beamten und des Fliessbandarbeiters. Es ist geradezu absurd, wenn auch der Chef des wertvollsten Unternehmens der Welt sich auf die «many Hands» beruft und auch der Bundesrat könnte mehr tun, als seine vielen Hände in Unschuld zu waschen. Und was tun Sie?

Basel, 28.08.2026, Matthias Zehnder mz@matthiaszehnder.ch

Bleiben Sie auf dem Laufenden:

Hier den Wochenkommentar abonnieren.

• Hinweis auf den neuen Wochenkommentar
• Ein aktueller Sachbuchtipp
• Ein Roman-Tipp
• Das neue Fragebogeninterview

Nur dank Ihrer Unterstützung ist der Wochenkommentar möglich. Herzlichen Dank dafür!

Lieber hören als lesen?

Quellen: