KI-Agenten-Hersteller versprechen Datenschutz wie nie zuvor
Auf dem OpenAI DevDay stellte Sam Altman den Agenten Dots vor und kündigte einen neuen Datenschutzstandard für Frontier-KI an. Zugleich nahm OpenAI Konkurrent Meta mit dessen Muse wegen mangelhafter Datensicherung ins Visier.
AI Schliessen Beitraege zu diesem Thema werden zu deinem taeglichen E-Mail-Digest und deinem Homepage-Feed hinzugefuegt.
Report Schliessen Report Beitraege zu diesem Thema werden zu deinem taeglichen E-Mail-Digest und deinem Homepage-Feed hinzugefuegt.
Tech Schliessen Tech Beitraege zu diesem Thema werden zu deinem taeglichen E-Mail-Digest und deinem Homepage-Feed hinzugefuegt.
Meta positionierte seinen Muse-Agenten als sicherere Alternative zu OpenClaw. OpenAI verspricht, Dots sei eine sicherere Alternative zu Muse.
Hayden Field Schliessen Hayden Field Senior AI Reporter Beitraege dieses Autors werden zu deinem taeglichen E-Mail-Digest und deinem Homepage-Feed hinzugefuegt.
Teilen Verschenken Cath Virginia / The Verge | Foto: Getty Images Hayden Field Schliessen Hayden Field Beitraege dieses Autors werden zu deinem taeglichen E-Mail-Digest und deinem Homepage-Feed hinzugefuegt.
Auf dem diesjaehrigen OpenAI DevDay stellte CEO Sam Altman den neuen KI-Agenten Dots des Unternehmens vor und erklaerte dem Publikum, das Unternehmen wolle einen neuen Massstab fuer den Datenschutz in der Frontier-KI setzen. OpenAI verbrachte den Tag damit, sich in versteckten Spitzen ueber Metas Muse, den wichtigsten Wettbewerber, lustig zu machen, weil dieser die Daten der Nutzer nicht sicher verwahre. Dabei war Muse selbst, ein paar Monate zuvor, angeblich als sicherere Alternative zum Vorgaenger OpenClaw gestartet, mit der Zusage von CEO Mark Zuckerberg, es sei von Grund auf fuer Privatsphaere und Sicherheit entwickelt worden.
In einer Zeit, in der Unternehmen die persoenlichen Daten ihrer Kunden horten und Cyberangriffe an der Tagesordnung stehen, versuchen KI-Labore, Nutzer davon zu ueberzeugen, ihren Agenten noch mehr Informationen anzuvertrauen. Ihre neueste Erfolgsstrategie besteht darin, die Konkurrenz zu ueberbieten, indem sie versprechen, dass sie im Gegensatz zu ihren Rivalen die Nutzerdaten vor neugierigen Blicken schuetzen werden. Die Frage ist, ob die Unternehmen diese Versprechen einhalten koennen.
Nat Friedman, Leiter der Produktentwicklung bei Meta Superintelligence Labs, schrieb auf X, das Ziel mit Muse sei es gewesen, etwas wie OpenClaw zu bauen, das sicher und geschuetzt, einfach zu bedienen ist und auf Milliarden von Menschen skaliert werden kann. Die Nutzerdaten werden auf einer sicheren VM gespeichert, die Zuckerberg als einen isolierten Linux-Computer mit Browser, CPU, Arbeitsspeicher und Speicherplatz beschrieb. Das Unternehmen erklaerte, der Grossteil der Arbeit an Muse habe sich auf sorgfaeltige Konstruktion und Entwicklung konzentriert, um es sicherer zu betreiben.
Metas Blogbeitrag fuhr fort: Muse kann und wird weiterhin Fehler machen, aber wir erwarten, dass diese dank der von uns eingebauten Sicherheitssysteme viel seltener auftreten und viel weniger Schaden anrichten werden.
Doch obwohl Muse die App-Store-Charts anfuehrte und laut Apptopia innerhalb weniger Wochen 600.000 taeglich aktive Nutzer in den USA gewann, scheinen Metas Versprechen ins Leere zu laufen. Obwohl die Daten von anderen Nutzern isoliert sind und das Unternehmen spaeter in diesem Jahr eine Moeglichkeit einfuehren will, um kryptografisch und ueberpruefbar zu verhindern, dass Meta auf die Daten in deiner VM zugreifen kann, kann Meta selbst weiterhin auf die Daten zugreifen. Ein Sicherheitsforscher deckte rasch eine Zero-Day-Schwachstelle auf, die es ermoeglicht haette, die Kontrolle ueber Muse zu uebernehmen (seitdem wurde sie behoben), was Aengste vor Angriffen von aussen weckte.
Laut 404 Media sollen kurz vor dem Launch mehrere ernste Sicherheitsprobleme aufgetreten sein, eines davon haette Nutzern den Zugriff auf Metas eigene interne Datenbanken ermoeglicht.
Muse scheint auch umfassend Daten zu sammeln und in manchen Faellen sogar weiterzugeben. Standardmaessig erlaubt es Meta, Modelle auf den Inhalten zu trainieren, die Nutzer eingeben, wobei ein Opt-out moeglich ist. Ein Inc.-Reporter beklagte, dass Muse seine privaten Nachrichten hochlud und las, ohne dass er dies verlangt hatte, und ein YouTuber erzaehlte, es habe einem Fremden ueber Marketplace seine Adresse angeboten.
In beiden Faellen funktionierte Muse offenbar wie vorgesehen, doch die Nutzer wussten nicht, wie weit es gehen wuerde. Die Plattform erstellt detaillierte Profile aller deiner Freunde und Familie, wie Wired berichtete. All dies ist von Meta nicht unbedingt ueberraschend, aber es unterstuetzt jedenfalls nicht die Vorstellung, dass Muse besonders datenschutz- oder sicherheitsbewusst ist.
OpenAI machte sich diesen Umstand zunutze, als es Ende September Dots vorstellte. Alexander Embiricos, OpenAIs Codex-Product-Lead, erklaerte auf dem DevDay, OpenAI konzentriere sich darauf, den vertrauenswuerdigsten, sichersten und am besten geschuetzten Assistenten zu bieten, und CEO Sam Altman demonstrierte Moeglichkeiten, wie Nutzer individuelle Kontrolle ueber ihre Dots ausueben koennen, etwa indem sie eine Regel festlegen, dass es niemals einen Einkauf ueber einen bestimmten Betrag taetigen darf. Ich denke, wir sind in einer anderen Position als Meta, denn die haben kein KI-Produkt mit 1,2 Milliarden Nutzern, sagte Glen Coates, OpenAIs Head of App Platform, und fuegte hinzu, dass wir uns sehr bemuehen wuerden, den Launch von etwas zu vermeiden, das solche Fehler macht.
Altman persoenlich betonte auf dem DevDay ebenfalls den Datenschutzaspekt. Um Geschäftskunden zu gewinnen, praesentierten die Fuehrungskraefte ein Framework, das Unternehmen staerkere Kontrollen ueber ihre Daten sowie Zero-Data-Retention-Optionen ermoeglicht, was bedeutet, dass keine Daten auf OpenAI-Servern gespeichert werden. In der Tat gab es bislang kaum Datenschutzskandale mit Dots, allerdings ist der Agent nur in den ChatGPT-Abonnementstufen ab 100 Dollar verfuegbar, es gibt also auch wahrscheinlich weniger Menschen, die ihn nutzen.
Vielleicht fuehlen sich die Menschen weiterhin nicht wohl dabei, OpenAI ihre persoenlichen Daten anzuvertrauen, auch weil KI-Agenten schlicht so viele davon benoetigen. So empfand The Verges Allison Johnson etwa Unbehagen, als sie im Rahmen einer entsprechenden Aufgabe ihre Bankdaten eingeben sollte, nachdem der Bot darum gebeten hatte (Muse verfuegt ueber eine Stripe-Integration, die das uebernimmt).
Natuerlich machen nicht alle Unternehmen Datenschutzversprechen. Instinct wurde oeffentlich dafuer kritisiert, laut Berichten ueberaus weitreichende Nutzungsbedingungen zu haben, die dem Unternehmen uneingeschraenkten Datenzugriff gewaehrten; seither scheint das Unternehmen Anpassungen vorgenommen zu haben. Vorerst setzen KI-Labore offenbar auf einen dreiteiligen Ansatz, um die Nutzung von KI-Agenten in der Allgemeinbevoelkerung zu verbreiten: Die Agenten nuetzlich machen, sie niedlich und entwaffnend gestalten, um das Gruselige zu mildern, und Versprechen zum Datenschutz geben und darauf hoffen, dass sie halten.
Analyse Schliessen Analyse Beitraege zu diesem Thema werden zu deinem taeglichen E-Mail-Digest und deinem Homepage-Feed hinzugefuegt.
Meta Schliessen Meta Beitraege zu diesem Thema werden zu deinem taeglichen E-Mail-Digest und deinem Homepage-Feed hinzugefuegt.
OpenAI Schliessen OpenAI Beitraege zu diesem Thema werden zu deinem taeglichen E-Mail-Digest und deinem Homepage-Feed hinzugefuegt.
Privacy Schliessen Privacy Beitraege zu diesem Thema werden zu deinem taeglichen E-Mail-Digest und deinem Homepage-Feed hinzugefuegt.
Ein kostenloser taeglicher Digest der wichtigsten Nachrichten.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
AI Close AI Posts from this topic will be added to your daily email digest and your homepage feed.
Report Close Report Posts from this topic will be added to your daily email digest and your homepage feed.
Tech Close Tech Posts from this topic will be added to your daily email digest and your homepage feed.
Meta positioned its Muse agent as a safer alternative to OpenClaw. OpenAI promises Dots is a safer alternative to Muse.
Hayden Field Close Hayden Field Senior AI Reporter Posts from this author will be added to your daily email digest and your homepage feed.
Share Gift Cath Virginia / The Verge | Photo: Getty Images Hayden Field Close Hayden Field Posts from this author will be added to your daily email digest and your homepage feed.
At this year’s OpenAI DevDay, CEO Sam Altman unveiled the company’s new AI agent Dots — and told the crowd that the company wants to “set a new standard for privacy in frontier AI.” OpenAI would spend the day taking veiled shots at Meta’s Muse, its primary competitor, for failing to keep users’ data safe. Yet Muse itself, a couple of months earlier, had launched as a supposedly safer alternative to predecessor OpenClaw — with CEO Mark Zuckerberg promising it was “built from the ground up for privacy and security.”
In an age when companies hoard customers’ personal data and cyberattacks are a dime a dozen, AI labs are trying to convince users to share even more information with their agents. Their latest strategy for success is one-upping the competition by promising that unlike their rivals, they’ll keep user data away from prying eyes. The question is whether companies can keep these promises.
Nat Friedman, head of product at Meta Superintelligence Labs, wrote on X that the company’s “goal with muse was to build something like openclaw that we could make safe and secure and easy to use and scale to billions of people.” User data is stored on a secure VM, what Zuckerberg described as an “isolated linux computer with a browser, CPU, memory, and storage.” The company said that most of the effort in building Muse was related to “careful design and engineering to operate [it] more safely.” Meta’s blog post continued, “Muse can and will still make mistakes, but we expect they’ll be much less frequent and cause much less damage due to the safety systems we’ve built in.”
But though Muse topped the App Store charts and, per Apptopia, gained 600,000 daily active users in the US within weeks, Meta’s promises seem to have fallen short. Although data is isolated from other users, and the company plans to introduce a way “to cryptographically and verifiably prevent Meta from accessing data in your VM” later this year, Meta itself can still access the data. A security researcher quickly exposed a zero-day vulnerability that could allow someone to take control of Muse (which has since been patched), raising fears of outside attacks. Multiple serious security issues reportedly cropped up at the last minute before launch, one of which could have allowed users to access Meta’s own internal databases, per 404 Media.
Muse also appears to liberally collect (and in some cases, hand out) data. It defaults to allowing Meta to train models on what users put into it, though it’s possible to opt out. An Inc. reporter complained that Muse uploaded and read his private messages without him asking it to, and a YouTuber said it had offered his address to a stranger via Marketplace — in both cases, Muse was functioning apparently as intended, but the user didn’t realize how far it would go. The platform creates “detailed profiles of all your friends and family,” as Wired reported. None of this is necessarily unexpected from Meta, but it certainly doesn’t back up the idea that Muse is uniquely privacy- or security-conscious.
OpenAI seized on this fact when announcing Dots in late September. Alexander Embiricos, OpenAI’s Codex product lead, said onstage at DevDay that OpenAI is focused on having the “most trustworthy, safe, and secure assistant,” and CEO Sam Altman demonstrated ways that people could exert control over their individual Dots, such as setting a rule that it should never make a purchase over a certain dollar amount. “I think we’re in a different position to Meta in that they don’t have an AI product that has 1.2 billion users,” said Glen Coates, OpenAI’s head of app platform, adding that “launching something that makes those kinds of mistakes is something that we would try to take the care to avoid.”
Altman himself also pushed the privacy angle at DevDay. To court business customers, executives presented a framework allowing enterprises to have “stronger controls” over their data and zero data retention policy options (meaning no data is stored on OpenAI servers). Indeed, so far, there haven’t been many privacy scandals with Dots — although since it’s only available on the $100-and-up ChatGPT subscription tiers, there are also likely fewer people using it.
People may still not feel comfortable giving OpenAI their personal data, in part simply because AI agents require so much of it. For instance, The Verge ’s Allison Johnson felt uncomfortable typing in her bank information when the bot asked as part of a relevant task (Muse has a Stripe integration to take care of that).
Not all companies are making privacy promises, of course. Instinct was publicly criticized for reportedly overly-broad terms of service that gave it unfettered access to data; since then, the company seems to have made adjustments. For now, AI labs seem to be counting on a three-part approach to popularizing AI agent use with the general public: Make them useful, make them cute and disarming to help offset the creepiness, and make promises about privacy — and hope they hold up.
Analysis Close Analysis Posts from this topic will be added to your daily email digest and your homepage feed.
Meta Close Meta Posts from this topic will be added to your daily email digest and your homepage feed.
OpenAI Close OpenAI Posts from this topic will be added to your daily email digest and your homepage feed.
Privacy Close Privacy Posts from this topic will be added to your daily email digest and your homepage feed.
A free daily digest of the news that matters most.