KI SpotlightNewsTikTok-Chef Chew nennt Cybersicherheitsrisiken von KI-Agenten „quite real“
Bei einem Panel in Singapur mahnt er mehr Aufklärung an. Eine Zuspitzung zu einer Prüfpflicht für Nutzer ist im Wortlaut nicht belegt. ByteDance bietet mit Doubao selbst einen Agenten mit weitreichendem Gerätezugriff an.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- Chew Shou Zi sprach am Montag, 12. Oktober, im Dialog mit Shee Tse Koon (DBS) bei der DBS…
- Auf die Frage, welche KI-Bereiche zu wenig Beachtung finden, sagte Chew: "I think the cybersecurity risks are quite…
- Chew sagte, Nutzer könnten Agenten Berechtigungen geben, ohne zu verstehen, was sie freigeben.
- Chew sagte, agentische Modelle hätten die Kosten für Spam in Unternehmen stark gesenkt.
- Chew plädiert für eine Kombination aus Mensch und KI.
Chew: Cybersicherheitsrisiken von KI-Agenten sind „quite real“
TikTok-Chef Chew Shou Zi hält die Cybersicherheitsrisiken von KI-Agenten für „quite real“. Dafür fordert er „a lot of education“. Am Montag, 12. Oktober, äußerte er sich bei der DBS Asia Future Forward in Singapur im Gespräch mit Shee Tse Koon von der Bank DBS. Gefragt wurde, welche KI-Themen zu wenig Beachtung finden.
Nutzer können Agenten Berechtigungen erteilen, ohne zu wissen, was sie freigeben. Chew nannte den Kreditkartenzugriff als Beispiel. Wer einem Agenten Käufe erlaubt, kann am Ende weit mehr kaufen, als nötig wäre. Agenten sind dafür gebaut, Aufgaben auszuführen, und nicht nur Fragen zu beantworten. Das Risiko entsteht, wenn Rechte zu weit gefasst sind.
Laut CNA sagte Chew außerdem, agentische Modelle hätten die Kosten für Spam in Unternehmen stark gesenkt. Ziel sei es, Spam auf der eigenen Plattform „too expensive“ zu machen. Zudem plädierte er für eine Verbindung von Mensch und KI. Routine- und Low-Stakes-Arbeit lasse sich vorsichtig automatisieren. High-Stakes-Arbeit bleibe „very high touch“.
Ein Originalvideo oder -transkript liegt nicht vor. Die Zitate stammen aus Berichten von CNA, The Standard und The Next Web. Letzteres beruft sich auf CNBC und Bloomberg.
Aufklärung statt Prüfauftrag: Was Chew nicht belegt gesagt hat
Die Aussage fiel in einem Panelgespräch. Dahinter steht weder ein Produktstart noch ein Vorfall oder ein Regulierungsschritt. Ebenso fehlt ein Bezug auf ein bestimmtes Agentenprodukt oder eine konkrete Handlungsanleitung.
Die Schlagzeile von hyper.ai, Chew warne Nutzer davor, Berechtigungen sorgfältig zu prüfen, ist zugespitzter als die übrigen Berichte. Dort ist außerdem von „unauthorized transactions“ und internen TikTok-Protokollen zum Umgang mit Geschäftsgeheimnissen die Rede. In den vorliegenden, teils abgeschnittenen Auszügen von CNA, The Next Web und The Standard findet sich davon nichts. Als Wortlaut Chews ist das nicht belegt.
ByteDance selbst: Doubao-Agent auf dem Nubia-Handy zurückgefahren
ByteDance betreibt mit Doubao selbst einen Agenten. Auf dem Smartphone Nubia M153, entwickelt mit ZTE, bedient er Apps per Sprachbefehl, vergleicht Preise und bereitet Bestellungen vor. Laut Demo muss der Nutzer den Kauf selbst auslösen.
Nach dem Verkaufsstart meldeten Nutzer Sperrungen durch Bank-Apps, WeChat, Taobao und Alipay. ByteDance setzte Gaming-, Banking- und Zahlungsfunktionen aus. Nach eigener Darstellung war das „a necessary step“.
WeChat bestreitet eine gezielte Maßnahme und verweist auf Standard-Risikokontrollen. Die Quellen nennen unterschiedliche Auslöser: Plattformsperren laut AFP und silicon.co.uk, Datenschutzbedenken laut India Today. Beides kann zugleich zutreffen. Dass Chew dieses Produkt meinte, belegt keine Quelle.
