Google, einer der größten Befürworter künstlicher Intelligenz, warnt Mitarbeiter vor Chatbots

SAN FRANCISCO (Reuters) – Alphabet Inc (GOOGL.O) warnte seine Mitarbeiter vor der Verwendung seiner Chatbots, einschließlich seines Bard, und vermarktet die Software gleichzeitig auf der ganzen Welt, so vier mit der Angelegenheit vertraute Personen. Befehl. Reuters.

Die Google-Muttergesellschaft empfahl ihren Mitarbeitern, ihre vertraulichen Materialien nicht in intelligente Chatbots einzugeben, sagten die Personen und das Unternehmen bestätigte dies unter Berufung auf eine seit langem bestehende Richtlinie zum Informationsschutz.

Chatbots, darunter Bard und ChatGPT, sind menschenähnliche Programme, die sogenannte generative künstliche Intelligenz nutzen, um Gespräche mit Benutzern zu führen und unzählige Eingaben zu beantworten. Menschliche Prüfer können Chats lesen und Die Forscher fanden heraus Eine ähnliche KI kann die Daten reproduzieren, die sie während des Trainings aufgenommen hat, was zu einem Leckrisiko führt.

Einige Leute sagten, Alphabet habe seine Ingenieure auch davor gewarnt, die direkte Verwendung von Computercode zu vermeiden, den Chatbots generieren könnten.

Auf die Frage nach einem Kommentar sagte das Unternehmen, Bard könne unaufgefordert Codevorschläge machen, aber es helfe Programmierern dennoch. Google sagte außerdem, dass es sich zum Ziel gesetzt habe, die Grenzen seiner Technologie transparent zu machen.

Die Bedenken zeigen, wie Google geschäftliche Schäden durch die im Wettbewerb mit ChatGPT gestarteten Programme vermeiden will. Im Wettlauf von Google gegen die Unterstützer von ChatGPT OpenAI und Microsoft Corp (MSFT.O) stehen Investitionen in Milliardenhöhe sowie noch unermessliche Werbe- und Cloud-Einnahmen aus neuer KI-Software auf dem Spiel.

Die Warnung von Google spiegelt auch einen mittlerweile zum Sicherheitsstandard für Unternehmen gewordenen Plan wider, der Einzelpersonen vor der Nutzung öffentlich zugänglicher Chatbots warnt.

Immer mehr Unternehmen auf der ganzen Welt haben Firewalls für intelligente Chatbots eingerichtet, sagten die Unternehmen gegenüber Reuters, darunter Samsung (005930.KS), Amazon.com (AMZN.O) und Deutsche Bank (DBKGn.DE). Apple (AAPL.O), das auf Anfragen nach Kommentaren nicht reagierte, hat dies Berichten zufolge ebenfalls getan.

Laut einer von der Netzwerkseite Fishbowl durchgeführten Umfrage unter fast 12.000 Befragten, darunter von großen US-amerikanischen Unternehmen, nutzten im Januar etwa 43 % der Berufstätigen ChatGPT oder andere KI-Tools, oft ohne es ihren Vorgesetzten mitzuteilen.

Bis Februar hatte Google Mitarbeiter, die den Bard vor seiner Markteinführung testeten, gebeten, keine Insiderinformationen preiszugeben. Ich habe es drinnen erwähnt. Google führt Bard mittlerweile in mehr als 180 Ländern und in 40 Sprachen als Sprungbrett für Kreativität ein, und seine Vorbehalte erstrecken sich auch auf seine Codevorschläge.

Google teilte Reuters mit, dass es ausführliche Gespräche mit der irischen Datenschutzkommission geführt habe, um Fragen der Aufsichtsbehörden zu beantworten, nachdem Politico am Dienstag berichtet hatte, dass das Unternehmen die Einführung von Bard in der EU diese Woche verzögere, bis weitere Informationen über die Auswirkungen des Chatbots auf den Datenschutz vorliegen.

Bedenken hinsichtlich sensibler Informationen

Solche Technologien können E-Mails, Dokumente und sogar die Programme selbst erstellen und versprechen, Aufgaben exponentiell zu beschleunigen. Allerdings könnten diese Inhalte falsche Informationen, sensible Daten oder sogar urheberrechtlich geschützte Passagen aus dem „Harry Potter“-Roman enthalten.

In der am 1. Juni aktualisierten Datenschutzerklärung von Google heißt es außerdem: „Geben Sie keine vertraulichen oder sensiblen Informationen in Ihre Bard-Gespräche ein.“

Einige Unternehmen haben Software entwickelt, um solche Bedenken auszuräumen. Beispielsweise vermarktet Cloudflare (NET.N), das Websites gegen Cyberangriffe verteidigt und andere Cloud-Dienste anbietet, die Möglichkeit für Unternehmen, bestimmte Daten zu markieren und den Abfluss einzuschränken.

Google und Microsoft bieten auch Konversationstools für Geschäftskunden an, die einen höheren Preis verlangen, aber auf die Aufnahme von Daten in generische KI-Modelle verzichten. Die Standardeinstellung in Bard und ChatGPT besteht darin, den Chatverlauf der Benutzer zu speichern, den Benutzer löschen können.

Yousef Mahdi, Chief Consumer Marketing Officer bei Microsoft, sagte, es sei „sinnvoll“, dass Unternehmen nicht möchten, dass ihre Mitarbeiter öffentliche Chatbots am Arbeitsplatz nutzen.

„Unternehmen nehmen zu Recht eine konservative Haltung ein“, sagte Mehdi und erläuterte, wie der kostenlose Bing-Chatbot von Microsoft im Vergleich zu seiner Unternehmenssoftware abschneidet. „Dort sind unsere Richtlinien viel strenger.“

Microsoft lehnte es ab, sich dazu zu äußern, ob es Mitarbeitern ein generelles Verbot gibt, vertrauliche Informationen in öffentliche KI-Programme, einschließlich seiner eigenen, einzugeben, obwohl ein anderer Manager Reuters sagte, er habe die Verwendung persönlich eingeschränkt.

Das Schreiben vertraulicher Angelegenheiten in Chatbots sei so, als würde man „einen Haufen Doktoranden durch Ihre privaten Unterlagen schaufeln“, sagte Matthew Prince, CEO von Cloudflare.

Berichterstattung von Jeffrey Dustin und Anna Tong in San Francisco. Redaktion von Kenneth Lee und Nick Zieminski

Unsere Standards: Thomson Reuters Trust-Grundsätze.