Menschen, die Tag für Tag unzählige Chats mit Claude, ChatGPT & Co. führen, Personen, die von KI-Systemen offenbar in den Selbstmord getrieben werden – oder Leute, die meinen, ein großes Sprachmodell sei ihr Partner fürs Leben: All diese merkwürdigen psychologischen Effekte Künstlicher Intelligenz sind längst Alltag. Bei Apples Siri AI soll das aber möglichst nicht passieren: Der iPhone-Hersteller hat dazu diverse „Guard Rails“ implementiert. Das berichten sowohl Nutzer der aktuellen Beta des KI-fizierten Sprachassistenzsystems als auch Leak-Experten, die entsprechende Strings im iOS-27-Code entdeckt haben.

Keine KI-Freundin, dafür Stundenzählerin

Versuche, Siri AI zum „AI girlfriend“ zu machen, scheinen zum Beispiel zu scheitern. Die Ex-Wall-Street-Journal-Tech-Reporterin Joanna Stern versuchte zum Beispiel über mehrere Tage, Siri zu ihrer Freundin „oder darüber hinaus“ zu machen. So erklärt die Sprachassistenz weder ihre Liebe noch versucht sie, Nutzern therapeutische Tipps zu geben. Auch bei medizinischen Problemstellungen – die etwa ChatGPT freudig zu diagnostizieren versucht –, reagiert Siri AI ablehnend.

Auch das Thema Chatbot-Sucht scheint man bei Apple im Hinterkopf behalten zu haben. Siri AI überwacht offenbar, wie lange einzelne Konversationen dauern – und gibt dann eine „Mach' mal Pause“-Meldung aus. Das geschieht allerdings laut Nachforschungen des Leak-Experten Aaron Perris erst nach mehreren Stunden. Siri AI gibt außerdem aus, dass das System „kein Mensch“ („not a person“) sei. Bislang sind beide Strings noch nicht bei Betatestern aufgetaucht, daher lässt sich noch nicht sagen, wann genau sie auftauchen.

Siri AI setzt Apple-Versprechungen um

Tester der aktuellen Beta von Siri AI loben, dass es Apple tatsächlich gelungen ist, die vor zwei Jahren angekündigten Funktionen umzusetzen. Das gilt insbesondere für die kontextbezogene Nutzung. Da auf dem iPhone oftmals das halbe Leben eines Nutzers zu finden ist, kann die Sprachassistenz somit sehr hilfreich sein. Apple betont, dass weder dem Konzern noch seinen Dienstleistern Daten offengelegt werden, auch in der Cloud sind sie so verschlüsselt, dass selbst Administratoren nicht herankommen.

Momentan erhalten Developer nur gestaffelt Zugriff auf Siri AI. Nach Installation der Betas von iOS 27, iPadOS 27 und macOS 27 müssen sich diese auf eine Warteliste setzen lassen, die nach und nach geöffnet wird. (Nutzer mit Apple-Store-ID aus der EU dürfen grundsätzlich nicht mitmachen.) Es gibt Klagen über vergleichsweise langsame Cloud-Antwortzeiten.

(bsc)