Salesforce CEO schiesst gegen GenAI-Anbieter

Im Markt für generative KI dominieren Datendiebe und -Betrüger. Das ließ Marc Benioff auf der diesjährigen Dreamforce vor großem Publikum durchblicken. Allerdings ohne Namen zu nennen.

Mit Anschuldigungen gegen Mitwerber sparte Marc Benioff, CEO und Mitbegründer von Salesforce, nicht, um sein Unternehmen als den vertrauenswürdigsten Anbieter von Produkten und Dienstleistungen im Bereich der generativen künstlichen Intelligenz (GenAI) positionieren.

So beschuldigte Benioff die namentlich nicht genannten KI-Anbieter pauschal, einen Teil der Trainingsdaten für ihre großen Sprachmodelle (LLM) zu stehlen und Kundendaten zu ihrem eigenen Nutzen einsetzen.

„Diese LLMs sind hungrig nach unseren Daten", sagte Benioff am Dienstag auf der jährlichen Dreamforce-Veranstaltung. „Damit werden sie schlauer, denn die LLM-Anbieter sind nur Algorithmus-Unternehmen. Sie funktionieren nur, wenn sie Daten haben. Und die Daten, mit denen sie arbeiten, haben sie meistens gestohlen. Oder sie gehen einfach ins Netz und holen sich alle Daten, die sie finden können. Und der nächste Datensatz, den sie wollen, um noch schlauer zu werden, sind Ihre Unternehmensdaten."

An den an den so genannten Halluzinationen der KI anderer Anbieter ließ Benioff ebenfalls kein gutes Haar. KI-Modelle, die falsche Informationen erzeugen, diese aber überzeugend richtig aussehen lassen, seien verlogen. „Sie nennen sie Halluzinationen. Ich nenne das Lügen. Diese LLMs sind wirklich sehr überzeugende Lügner."

Der CEO warnte die Dreamcast-Teilnehmer auch davor, Business-to-Consumer (B2C -Anbietern zu vertrauen. "Bei vielen Unternehmen, mit denen Sie zu tun haben, mit denen Sie Partnerschaften eingehen, und bei vielen Unternehmen, die Sie sich gerade ansehen oder mit denen Sie bereits zusammenarbeiten - insbesondere im B2C-Bereich (Business-to-Consumer) und auf der Verbraucherseite - wissen Sie, wie sie arbeiten", sagte er. "Das muss ich hier niemandem erklären, denn wie sie arbeiten, ist längst kein Geheimnis mehr. Sie nutzen Ihre Daten, um Geld zu machen. Bei Salesforce tun wir das nicht. Ihre Daten sind nicht unser Produkt. Den Zugang zu Ihren Daten kontrollieren Sie."

Neben seiner Polemik gegen die dunkle Seite der Generativen KI betonte der CEO die grundsätzlichen Vorteile der Technologie und kündigte neue Angebote von Salesforce in diesem Bereich an, darunter die Einstein 1 Platform. Diese verspricht eine sichere Verbindung beliebiger Daten zum Aufbau von KI-gestützten Anwendungen.

Was Benioff auf der Dreamforce 2023 noch so zu sagen hatte, und mit welchen vertrauenswürdigen KI-Produkten Salesforce seine Kunden überzeugen will, zeigen wir hier in Auszügen.

„Die KI-Vertrauenslücke"

„Es steht außer Frage, dass KI alles verändern wird. Gleichzeitig scheint es, wie bei vielen neuen Technologien in unserer Branche, eine Vertrauenslücke zu geben. Irgendwie ist in diese Technologien nicht so viel Vertrauen eingeflossen, wie man vielleicht erwartet hätte. Auch das ist in unserer Branche nicht ungewöhnlich.

Aber wir wissen, dass es da draußen Informationsinseln gibt. Wo gehen die Daten hin, wenn ich mein LLM benutze? Wo sind diese Daten im Augenblick? Was passiert bei dieser Abfrage? Nun, sie werden einfach eingelesen und damit sind sie weg. Das LLM nutzt sie, um schlauer zu werden. Und Sie werden Ihre Daten nie wieder sehen.

Aber viele CEOs, CIOs und CTOs, mit denen ich auf der ganzen Welt gesprochen habe, sagen: 'Wow, ich bin nicht bereit, alle meine Daten diesen öffentlichen LLMs zu überlassen, die versuchen werden, alle meine Systeme intelligenter zu machen'. Das ist ein interessanter Widerspruch."

„Interessant ist auch, dass diese Lösungen zwar gut sind, aber nicht großartig. Man bekommt eine Menge Antworten, die nicht ganz der Wahrheit entsprechen. Außerdem können KIs sehr schnell sehr giftig werden. In einer Kundensituation ist das nicht unbedingt gut, auch nicht in einem Unternehmens- oder Mitarbeiterkontext.

Aber natürlich ist uns klar, dass darin eine phänomenale Chance für die Zukunft liegt und ein Ziel ist, das wir alle erreichen wollen. Wir wollen innovativ sein. Wir wollen großartige neue Anwendungen und vertikale Märkte schaffen.

Irgendwie werden wir da schon Vertrauen schaffen. Allerdings haben wir diese unzusammenhängenden Daten, all die verschiedenen APIs (Application Programming Interfaces) und all diese verschiedenen Typen von Anbietern.

Wir müssen das alles zusammenfügen. Aber können wir uns am Ende darauf verlassen? Werden wir wirklich wissen, was dabei herauskommt? Ich bin mir da nicht so sicher."

„Eine integrierte Plattform"

„Wir haben diese tollen Anwendungen - Sales Cloud, Service Cloud, Marketing, Commerce, Analytics… und die Apps, die wir dazu gekauft haben. All das integrieren wir in unseren Kern.

Der Grund, warum wir das tun: Sie alle sollen unser Metadaten-Framework nutzen können.

Wir haben festgestellt, dass das Metadaten-Framework der Schlüssel zur Integration ist. Wenn Sie also Anwendungen und die daraus resultierenden Metadaten schreiben, ist alles auf intelligente Weise miteinander verknüpft. Der gesamte Anwendungsrahmen ist von Metadaten umgeben.

Und dann haben diese neue Data Cloud, diesen unglaublichen Data Lake, dieses unglaubliche neue Data Warehouse aufgebaut...Und diese Technologie ist einfach genial. Denn es handelt sich nicht um eine separate Datenwolke mit einer Art separatem Server ganz für sich allein. Nein. Es ist eine Datenwolke, die tief in unsere Technologie integriert ist, daher brauchen Sie kein eigenes Team, um sie zu betreiben, und auch keine gesonderten Kompetenzen. Sie ist voll in unsere Plattform integriert."

Und wir haben Einstein - das ist nicht nur prädiktiv, sondern generativ und bald auch autonom mit Agenten und AGI. Auch Einstein ist tief in unsere Plattform integriert. Wir verfolgen das Konzept, dass diese Plattform KI, Data Cloud und alle Anwendungen und eine Plattform zur Entwicklung neuer Anwendungen enthält.

Wir haben außerdem die Salesforce-Tochterunternehmen Slack, Quip, Canvas, Tableau und Heroku sowie die Produkte von Google und Microsoft mit unserem Metadaten-Framework verbunden.

Und unsere Tochterfirma MuleSoft, die für die Anbindung an andere Systeme sorgt... Das Datenmodell, das Freigabemodell, die Validierungsregeln, Datensatztypen, Berechtigungen, Profile, Codes, oder die Flows. Sie sind alle polymorph.

Das bedeutet, dass sie durch die Anwendungen und die Datenwolke ebenso fließen wie durch die Plattform. Wenn Sie ein neues Feld erstellen, wird es von der Data Cloud über die Anwendungen bis hin zu Einstein aufgefüllt - es handelt sich also um ein einziges integriertes polymorphes System.

Das ist es, was wir für die nächste Generation von Anwendungen brauchen - vor allem, wenn wir KI, Daten und die CRM-Software) auf einem Niveau miteinander verknüpfen, wie wir es zuvor noch nie gesehen haben."

„Einstein Trust Layer"

Sobald Sie dieses Maß an Integration erreicht haben, werden Sie all diese unglaublichen KI-Funktionen haben wollen. Aber Sie wollen auf sie vertrauen können.

Sie wollen ja nicht nur KI haben. Sie wollen nicht nur vorausschauende und autonome Agenten und AGI. Sie wollen die KI nicht nur über alle Ihre Anwendungen hinweg demokratisieren, sondern sie auch innerhalb der Plattform einsetzen. Und Sie wollen, dass sie die Metadaten versteht, denn die Sharing-Modelle müssen weiter existieren.

Also mussten wir unsere Einstein-Vertrauensschicht aufbauen. Jetzt ist sie eingebaut und wird in alles, was wir weiter tun, eingebaut werden."

„Salesforce schaut Kundendaten nicht an"

„Wir sehen uns Ihre Daten nicht an. Ihre Daten sind nicht unser Produkt.

Wir sind nur für eine Sache da - nämlich um Sie Sie produktiver und erfolgreicher zu machen.

Wir sind nicht hier, um Ihnen Ihre Daten weg zu nehmen. Wir sind nicht hier, um uns Ihre Daten anzusehen. Also mussten wir eine Technologie entwickeln, mit der die Deep-Learning-Systeme, selbstständig arbeiten konnten, ohne dass wir die Daten sehen…

Und damit hatten schon in den letzten zehn Jahren enormen Erfolg…"