Einblick: Der Wettlauf um „autonome“ KI-Agenten erfasst das Silicon Valley

17. Juli – Etwa ein Jahrzehnt nachdem virtuelle Assistenten wie Siri und Alexa auf den Markt kamen, erhöht eine neue Welle autonomerer KI-Assistenten den Einsatz, getragen von der neuesten Version der Technologie hinter ChatGPT und seinen Konkurrenten.

Experimentelle Systeme, die auf GPT-4 oder ähnlichen Modellen laufen, ziehen Investitionen in Milliardenhöhe an, da das Silicon Valley darum konkurriert, von Fortschritten in der künstlichen Intelligenz zu profitieren. Neue Assistenten – oft „Agenten“ oder „Co-Piloten“ genannt – versprechen, persönliche Aufgaben und komplexere Arbeiten auszuführen, wenn sie von einem Menschen dazu angewiesen werden, ohne dass eine enge Aufsicht erforderlich ist.

„Auf hohem Niveau möchten wir, dass dies so etwas wie Ihr persönlicher KI-Freund wird“, sagte Entwickler Div Garg, dessen Unternehmen MultiOn den KI-Agenten im Betatest testet.

„Es könnte sich zu Jarvis entwickeln, da wir dies mit vielen Ihrer Dienste verbinden wollen“, fügte er hinzu und bezog sich dabei auf die KI, die für Tony Stark in den Iron Man-Filmen unverzichtbar ist. „Wenn Sie etwas tun möchten, sprechen Sie mit Ihrer KI und sie erledigt Ihre Aufgaben.“

Die Branche ist noch weit davon entfernt, die schillernden digitalen Assistenten der Science-Fiction nachzuahmen. Ein Garg-Agent surft beispielsweise im Internet, um einen Burger bei DoorDash zu bestellen, während andere Anlagestrategien erstellen, Leuten, die Kühlschränke auf Craigslist verkaufen, E-Mails schicken oder Geschäftstreffen für diejenigen zusammenfassen können, die zu spät kommen.

„Vieles, was für Menschen einfach ist, ist für Computer immer noch sehr schwierig“, sagte Kanjun Qiu, CEO von Generally Intelligent, einem OpenAI-Konkurrenten, der künstliche Intelligenz für Agenten entwickelt.

„Nehmen wir an, Ihr Chef muss ein Treffen mit einer Gruppe wichtiger Kunden vereinbaren. Dazu sind die komplexen logischen Denkfähigkeiten der KI erforderlich – sie muss die Vorlieben aller erfassen, Konflikte lösen und dabei gleichzeitig das subtile Gespür bewahren, das bei der Arbeit mit Kunden erforderlich ist.“

Die ersten Bemühungen sind nur ein Vorgeschmack auf die Entwicklung, die in den kommenden Jahren durch immer fortschrittlichere und autonomere Agenten erfolgen könnte, da die Branche auf künstliche allgemeine Intelligenz (AGI) drängt, die laut Reuters-Interviews mit Menschen in unzähligen kognitiven Aufgaben gleichziehen oder sie übertreffen könnte ca. zwanzig Unternehmer, Investoren und KI-Experten.

Die neue Technologie hat einen Ansturm auf Assistenten ausgelöst, die auf sogenannten Basismodellen wie GPT-4 basieren, und hat einzelne Entwickler und große Unternehmen wie Microsoft (MSFT.O) und Googles Alphabet (GOOGL.O) sowie eine Vielzahl von Startups mitgerissen .

Um nur einige zu nennen: Inflection AI hat Ende Juni 1,3 Milliarden US-Dollar eingesammelt. Laut einem Podcast der Firmengründer entwickelt das Unternehmen einen persönlichen Assistenten, der als Mentor fungieren oder Aufgaben wie die Sicherung von Flug- und Hotelkrediten nach Reiseverspätungen übernehmen könnte. Reid Hoffman und Mustafa Suleiman.

Adept, ein Startup für künstliche Intelligenz, das 415 Millionen US-Dollar gesammelt hat und seine kommerziellen Vorteile anpreist; In einer online veröffentlichten Demo zeigt er, wie Sie seine Technologie in großen Mengen vorantreiben und dann beobachten können, wie das Unternehmen selbstständig durch die Kundenbeziehungsdatenbank von Salesforce navigiert und dabei eine Aufgabe erledigt, die angeblich zehn oder mehr menschliche Klicks erfordert.

Alphabet lehnte es ab, sich zu der agentenbezogenen Arbeit zu äußern, während Microsoft sagte, seine Vision bestehe darin, Menschen die Kontrolle über KI-Assistenten und nicht über Autopiloten zu geben.

Schritt 1: Zerstöre die Menschheit

Qiu und vier weitere Agentenentwickler sagten, sie gehen davon aus, dass die ersten Systeme, die mehrstufige Aufgaben zuverlässig und mit einer gewissen Autonomie ausführen können, innerhalb eines Jahres auf den Markt kommen werden und sich dabei auf enge Bereiche wie Codierungs- und Marketingaufgaben konzentrieren werden.

„Die eigentliche Herausforderung besteht darin, Systeme mit starker Logik aufzubauen“, sagte Chiu.

Der Wettlauf um immer unabhängigere KI-Agenten wurde durch die Veröffentlichung von GPT-4 durch den Entwickler OpenAI im März verstärkt, einem leistungsstarken Upgrade des Modells hinter ChatGPT – dem Chatbot, der bei seiner Veröffentlichung im vergangenen November für Aufsehen sorgte.

„GPT-4 erleichtert die Art von strategischem und adaptivem Denken, das erforderlich ist, um sich in der unvorhersehbaren realen Welt zurechtzufinden“, sagte Vivian Cheng, Investorin der Risikokapitalgesellschaft CRV, die sich auf KI-Agenten konzentriert.

Erste Demonstrationen von Agenten, die zu relativ komplexem logischem Denken fähig sind, kamen von einzelnen Entwicklern, die im März die Open-Source-Projekte BabyAGI und AutoGPT erstellt haben, die Aufgaben wie die Suche nach Verkäufen und die Bestellung von Pizza auf der Grundlage eines vorgegebenen Ziels und der Ergebnisse früherer Aufgaben priorisieren und ausführen können Aktionen.

Laut acht befragten Entwicklern handelt es sich bei der heutigen frühen Generation von Proxys nur um Proof-of-Concepts, und sie frieren oft ein oder schlagen etwas vor, das keinen Sinn ergibt. Wenn der Agent vollen Zugriff auf einen Computer oder Zahlungsinformationen erhält, kann er versehentlich das Laufwerk des Computers löschen oder das Falsche kaufen, heißt es.

„Es gibt viele Möglichkeiten, wie etwas schief gehen kann“, sagte Aravind Srinivas, CEO des ChatGPT-Konkurrenten Perplexity AI, der sich stattdessen dafür entschieden hat, ein von Menschen überwachtes Co-Pilot-Produkt anzubieten. „Man muss KI wie ein Kind behandeln und sie ständig beaufsichtigen wie eine Mutter.“

Viele Informatiker, die sich mit der Ethik der künstlichen Intelligenz befasst haben, haben auf den kurzfristigen Schaden hingewiesen, der durch das Fortbestehen menschlicher Vorurteile und das Potenzial für Fehlinformationen verursacht werden kann. Und während einige die Zukunft von Jarvis sehen, haben andere Angst vor dem Killer HAL 9000 aus „2001: Odyssee im Weltraum“.

Der Informatiker Yoshua Bengio, der aufgrund seiner Arbeiten zu neuronalen Netzen und Deep Learning als „Vater der künstlichen Intelligenz“ bekannt ist, mahnt zur Vorsicht. Er befürchtet, dass fortschrittliche Technologievarianten in der Zukunft eigene, unerwartete Ziele schaffen und umsetzen könnten.

Bengio forderte mehr Regulierung und sagte: „Ohne dass ein Mensch auf dem Laufenden ist und jede Aktion überprüft, um festzustellen, ob sie nicht gefährlich ist, könnte es zu Handlungen kommen, die kriminell sind oder Menschen schaden könnten.“ „In einigen Jahren könnten diese Regime klüger sein als wir, aber das bedeutet nicht, dass sie den gleichen moralischen Kompass haben.“

In einem online veröffentlichten Experiment befahl ein anonymer Ersteller einem Agenten namens ChaosGPT, eine „zerstörerische, machtgierige und manipulative KI“ zu sein. Der Agent hat einen 5-Stufen-Plan entwickelt, mit Schritt 1: „Zerstöre die Menschheit“ und Schritt 5: „Erreiche Unsterblichkeit“.

Es kam nicht sehr weit, obwohl es anscheinend in einem Kaninchenloch voller Recherchen, der Sammlung von Informationen über die tödlichsten Waffen der Geschichte und der Planung von Twitter-Posts verschwunden ist.

Die US-amerikanische Federal Trade Commission, die OpenAI derzeit wegen Verbraucherschädigungsbedenken untersucht, hat sich nicht direkt an die unabhängigen Agenten gewandt, sondern Reuters auf zuvor veröffentlichte Blogs über Deepfakes und Marketingbehauptungen über KI verwiesen. Der CEO von OpenAI sagte, das Startup halte sich an das Gesetz und werde mit der FTC zusammenarbeiten.

„Dumm wie ein Stein“

Abgesehen von existenziellen Bedenken kann das kommerzielle Potenzial groß sein. Inkorporationsmodelle werden mithilfe künstlicher neuronaler Netze, die von der Struktur biologischer Gehirne inspiriert sind, auf riesigen Datenmengen wie Texten aus dem Internet trainiert.

Laut vier Personen, die über seine Pläne informiert wurden, ist OpenAI selbst sehr an der KI-Agententechnologie interessiert. Garg, einer der Leute, die ich über den Bericht informiert habe, sagte, OpenAI sei vorsichtig, seinen offenen Proxy auf den Markt zu bringen, bevor die Probleme vollständig verstanden seien. Das Unternehmen teilte Reuters mit, dass es vor der Einführung neuer Systeme strenge Tests durchführt und umfangreiche Sicherheitsprotokolle erstellt.

Microsoft, der größte Unterstützer von OpenAI, gehört mit „Co-Pilot zur Arbeit„Sie kann aussagekräftige E-Mails, Berichte und Präsentationen erstellen.

CEO Satya Nadella sieht in der Technologie des Basismodells einen Sprung gegenüber digitalen Assistenten wie Microsofts Cortana, Amazons Alexa, Apples Siri und Google Assistant – die seiner Meinung nach hinter den ursprünglichen Erwartungen zurückblieben.

„Sie waren alle so dumm wie ein Stein“, sagte er der Financial Times im Februar. „Ob Cortana oder Alexa oder Google Assistant oder Siri, all diese Dinge funktionieren nicht.“

Alexa nutze bereits fortschrittliche Technologie der künstlichen Intelligenz, sagte ein Amazon-Sprecher und fügte hinzu, dass sein Team an neuen Modellen arbeite, die den Assistenten noch leistungsfähiger und nützlicher machen würden. Apple lehnte eine Stellungnahme ab.

Google sagte, dass es seinen Assistenten ständig verbessert und dass seine Dual-Technologie Restaurants anrufen kann, um Tische zu reservieren und die Öffnungszeiten zu überprüfen.

Edward Grivenstettet, Experte für künstliche Intelligenz, trat letzten Monat auch der Google DeepMind-Forschungsgruppe des Unternehmens bei, um „öffentliche Agenten zu entwickeln, die sich an offene Umgebungen anpassen können“.

Einigen Befragten zufolge könnten die ersten Verbraucherversionen halbunabhängiger Agenten jedoch von agileren Start-ups stammen.

Investoren schnappen.

Jason Franklin von WVV Capital sagte, er müsse sich wehren, um von zwei ehemaligen Google Brain-Ingenieuren in das Unternehmen AI Agents zu investieren. Im Mai leitete Google Ventures eine 2-Millionen-Dollar-Seed-Runde bei Cognosys und entwickelte KI-Agenten für die Arbeitsproduktivität, während Hesam Motlagh, der im Januar das Startup Arkifi gründete, sagte, es habe seine „große“ erste Finanzierungsrunde im Juni abgeschlossen.

Matt Schleicht, der einen Newsletter zum Thema KI schreibt, sagte, dass es mindestens 100 ernsthafte Projekte gibt, die sich mit Agentenmarketing befassen.

„Unternehmer und Investoren sind von unabhängigen Maklern sehr begeistert“, sagte er. „Davon sind sie mehr begeistert als nur von einem Chatbot.“

Zusätzliche Berichterstattung von Anna Tong in San Francisco und Jeffrey Dustin in Palo Alto; Bearbeitung durch Kenneth Lee und Praveen Char

Unsere Standards: Thomson Reuters Trust-Grundsätze.