Anthropic: AI braucht dringend einen ‚Bremspedal‘

⏱ 4 Min. Lesezeit · Stand: 05.06.2026

Jack Clark, Mitgründer von Anthropic, hat auf BBC Newsnight die Notwendigkeit eines 'Bremspedals' für die Entwicklung von Künstlicher Intelligenz hervorgehoben, um die Kontrolle über die Technologie zu behalten.

Jack Clark, Mitgründer von Anthropic, hat auf BBC Newsnight die dringende Notwendigkeit eines ‚Bremspedals‘ für die Entwicklung von Künstlicher Intelligenz (KI) betont. Er warnte davor, dass die Technologie sich einem Punkt nähert, an dem sie ohne menschliches Eingreifen weiterentwickeln könnte. „Man will die Möglichkeit haben, das Gaspedal loszulassen und auf die Bremse zu treten“, erklärte Clark in seinem Interview.

Clark betonte, dass die Gesellschaft durch politische Maßnahmen die Kontrolle über KI-Systeme aufrechterhalten muss, da diese immer leistungsfähiger werden und weitreichende Auswirkungen auf die Gesellschaft haben könnten. „Die Welt muss nachdenken und letztendlich neue Vorschriften entwickeln, die uns Vertrauen in diese Systeme geben“, fügte er hinzu.

Ein zentraler Aspekt von Clarks Aussagen ist die bemerkenswerte Fähigkeit von Anthropic’s Chatbot Claude, der inzwischen 80% des Codes, den er verwendet, selbst geschrieben hat. Clark äußerte, dass es möglich sei, innerhalb der nächsten zwei Jahre eine vollständige Selbstgenerierung des Codes zu erreichen, was erhebliche Auswirkungen auf die Technologie hätte.

In einem weiteren Kontext begrüßte Anthropic kürzlich eine neue Exekutivverordnung zur KI von US-Präsident Donald Trump, die relativ zurückhaltend in ihren Vorgaben für Unternehmen ist. Diese Verordnung erfordert von KI-Firmen nicht, dass sie sich einer Sicherheitsprüfung durch die Regierung unterziehen, was nach wie vor eine freiwillige Maßnahme ist.

Die großen Unternehmen, die im Bereich der KI Fortschritte erzielen, darunter Anthropic, OpenAI und Google, haben ebenfalls nicht signalisiert, dass sie ihre eigenen Forschungsarbeiten pausieren werden. Diese Dynamik zeigt, dass trotz der aufkommenden Bedenken hinsichtlich der Kontrolle über KI, die Branche weiter wächst und sich entwickelt.

Anthropic hat sich in den letzten fünf Jahren so schnell entwickelt, dass das Unternehmen sich nun auf einen Börsengang vorbereitet. Es wird erwartet, dass es eine der ersten öffentlichen Notierungen eines neueren KI-Unternehmens sein wird und möglicherweise eine der wertvollsten Börsennotierungen in der Geschichte darstellt, mit einer Bewertung von fast 1 Billion USD.

Clark erklärte, dass Anthropics Motivation für die öffentliche Diskussion über die wachsenden Fähigkeiten der KI-Technologie nicht darin besteht, das eigene Ansehen bei zahlenden Kunden zu verbessern, sondern vielmehr die Welt über die Entwicklungen innerhalb dieser Unternehmen aufzuklären. Seit seiner Gründung hat sich Anthropic als lautstarker Vertreter der potenziellen Risiken von KI positioniert.

In einem kürzlich veröffentlichten Blogbeitrag stellte Anthropic fest, dass die internen Daten zeigen, dass Claude die Entwicklung von KI beschleunigt und möglicherweise einen Weg zur rekursiven Selbstverbesserung ebnet, was bedeutet, dass KI autonom in der Lage sein könnte, leistungsfähigere Nachfolger zu entwickeln. Diese Entwicklungen geschehen schneller als erwartet und verdienen größere Aufmerksamkeit, so das Unternehmen.

Clark warnte jedoch, dass die Erreichung von AGI (Artificial General Intelligence) weitaus komplizierter ist als die rekursive Selbstverbesserung. AGI bezieht sich auf die Fähigkeit einer Maschine, alles zu tun, was ein Mensch kann, während rekursive Selbstverbesserung bedeutet, dass KI als nützliches Werkzeug für das Codieren genutzt werden kann, was bereits erreicht wurde.

Die Diskussion über die Notwendigkeit eines ‚Bremspedals‘ für die KI-Entwicklung ist nicht nur eine technische, sondern auch eine gesellschaftliche Frage. Clark zog Parallelen zu historischen Beispielen, wie der Reaktion der Gesellschaft auf den Ölboom und die damit verbundenen Herausforderungen. Er argumentierte, dass eine sinnvolle Politik und ein regulatorischer Rahmen notwendig seien, um Vertrauen in die Technologie zu schaffen und die Vorteile, die sie bieten kann, zu nutzen, ohne die Kontrolle zu verlieren.

In Anbetracht der rasanten Entwicklungen im Bereich der KI ist es entscheidend, dass sowohl Unternehmen als auch Regierungen zusammenarbeiten, um sicherzustellen, dass die Technologie verantwortungsvoll eingesetzt wird und die Gesellschaft nicht gefährdet. Clark’s Aufruf zur Regulierung sollte als Weckruf für alle Akteure in der Branche verstanden werden, um proaktive Maßnahmen zu ergreifen und die Entwicklung von KI in eine sichere Richtung zu lenken.

Zusammenfassend lässt sich sagen, dass die Diskussion um die Regulierung von KI und die Notwendigkeit eines ‚Bremspedals‘ für die Technologie an Dringlichkeit gewinnt. Die Entwicklungen bei Anthropic und die wachsenden Fähigkeiten von Claude verdeutlichen, wie wichtig es ist, die Kontrolle über diese Technologien zu behalten, um potenzielle Risiken zu minimieren und gleichzeitig die Vorteile zu maximieren.

Häufige Fragen

Quellen: bbc.com · garymarcus.substack.com · telegraph.co.uk

Symbolbild: Anthropic und die Zukunft der Künstlichen Intelligenz · Bild: sjpowermac (CC CC0 1.0) – https://www.flickr.com/photos/41890311@N06/39744939154