Mehrere prominente Fälle haben in den vergangenen Tagen für Aufsehen gesorgt. Der Thüringer Ministerpräsident Mario Voigt soll Reden und Gastbeiträge ganz oder teilweise von KI haben erstellen lassen, darunter einen Beitrag zum Holocaust-Gedenktag und eine Rede zum Gedenken an den verstorbenen ehemaligen Thüringer Ministerpräsidenten Bernhard Vogel. Die Frankfurter Allgemeine Zeitung nahm einen seiner Gastbeiträge aus dem Netz. Auch Digitalminister Karsten Wildberger bestätigte den Einsatz von KI bei Reden, jedoch nur unterstützend. Beim Tagesspiegel darf Editor-at-Large Stefan-Andreas Kassdorff nach ähnlichen Vorwürfen keine Texte mehr veröffentlichen.
Aufgedeckt werden solche Fälle oft mit dem Tool „Pangram“, das selbst auf KI basiert. Seine Verlässlichkeit ist jedoch begrenzt: Kleine Änderungen am Text können das Urteil von null auf hundert Prozent KI-Anteil kippen lassen.
Anthropic muss seine Modelle Fable 5 und Mythos 5 weltweit abschalten. Auslöser ist nach Darstellung des Unternehmens eine Exportkontrolldirektive der US-Regierung, die ausländischen Staatsangehörigen den Zugriff verbietet, auch ausländischen Anthropic-Mitarbeitern in den USA. Die übrigen Claude-Modelle sind nicht betroffen.
Laut dem US-Magazin Semafor steckt der Verdacht dahinter, eine Gruppe mit Verbindungen zur chinesischen Regierung habe Zugriff auf Mythos gehabt. Das würde erklären, warum auch das streng reglementierte Mythos 5 gesperrt werden musste, nicht nur das ohnehin beschränkte Fable 5.
Amazon-CEO Andrew Jassy ließ laut Berichten mehrerer Medien seine Cybersicherheitsabteilung Fable auf Jailbreaks prüfen, also Tricks zum Umgehen der Sicherheitsfilter. Die Tester sollen gezeigt haben, dass die KI funktionierende Exploits für Sicherheitslücken in vier gängigen Programmen lieferte. Jassy meldete das US-Regierungsstellen.
Anthropic hat eine YouGov-Umfrage unter knapp 52.000 US-Amerikanern veröffentlicht. Größte Hoffnung ist die Heilung schwerer Krankheiten wie Krebs oder Alzheimer mit 48 Prozent. Auf der anderen Seite sorgen sich 64 Prozent um den Verlust von Arbeitsplätzen, eine Furcht, die in jedem Bundesstaat an erster Stelle steht. 56 Prozent fürchten kognitive Abhängigkeit, 52 Prozent Fehlinformationen.
Praktische Erfahrung mildert die Skepsis: Wer KI täglich nutzt, fürchtet zu 54 Prozent um seinen Job, ohne Nutzung sind es 70 Prozent. Nur 15 Prozent vertrauen KI-Firmen bei Entscheidungen über Entwicklung und Einsatz der Technik.
Der Bundestag hat das nationale Umsetzungsgesetz zur EU-KI-Verordnung verabschiedet. Die Bundesnetzagentur wird zentrale Marktüberwachungsbehörde, dient als Beschwerdestelle für Bürger und soll Unternehmen beraten. Hinzu kommen ein Koordinierungs- und Kompetenzzentrum sowie mindestens ein KI-Reallabor.
Kritiker bemängeln fehlenden Grundrechtsschutz und warnen vor föderalem Kompetenz-Wirrwarr. Ein verpflichtendes Transparenzregister für KI in Behörden fehlt. Der IT-Verband Bitkom befürchtet, dass verschiedene Behörden dieselben KI-Systeme unterschiedlich bewerten.
Der Bundesrat fordert eine erhebliche Verschärfung der geplanten KI-gestützten Überwachungsbefugnisse für Ermittlungsbehörden. Während die Bundesregierung auf ein Verfassungsgerichtsurteil reagiert und den Einsatz automatisierter Recherche- und Analyseplattformen regeln will, gehen den Ländern die Vorschläge nicht weit genug. Kritikpunkt ist die geplante Koppelung von Strafverfolgung und Gefahrenabwehr.
Der Bundesrat befürchtet, dass KI-Analysetools bei der klassischen Strafverfolgung oft nicht nutzbar wären, da landesrechtliche Voraussetzungen fehlen. Die Länder fordern daher eigenständige Kompetenzen zum Zusammenführen von Daten ausschließlich für die Strafverfolgung. Besonders umstritten sind automatisierte biometrische Abgleiche mit öffentlich zugänglichen Internetdaten. Der eco-Verband warnt vor der Umfunktionierung des Internets zu einem staatlichen Identifizierungsraum.
Die EU-Kommission hat einen freiwilligen Verhaltenskodex zur Kennzeichnung KI-generierter Inhalte vorgelegt. Entwickler müssen Inhalte technisch markieren, vorgeschrieben ist ein mehrschichtiger Ansatz aus digitalen Metadaten und unsichtbaren Wasserzeichen. Anwender müssen KI-Inhalte sichtbar kennzeichnen, etwa mit den EU-Labeln „AI + GENERATED“ oder „AI + MODIFIED“.
Für kreative Werke gelten flexiblere Regeln. Ab dem 2. August müssen Deepfakes und KI-generierte Texte von öffentlichem Interesse klar gekennzeichnet sein.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Podcasts immer laden
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Ein Report der Beratungsfirma KPMG zu KI in Unternehmen enthält mehrere halluzinierte Fallstudien, aufgedeckt von der Forschungsgruppe GPTZero und geprüft von der Financial Times. Falsch waren Angaben zur Schweizer Großbank UBS, zum britischen Gesundheitsdienst NHS, zu den Schweizerischen Bundesbahnen und zur Londoner Verkehrsgesellschaft Transport for London. Alle widersprachen. Ursache seien wohl unsaubere KI-Websuchen.
GPTZero-Chef Edward Tian warnt vor Sekundär-Halluzinationen: Wenn große Beratungsfirmen KI-Falschinformationen verbreiten, gelten diese als besonders glaubwürdig. KPMG verbreitet damit genau die Fehler, vor denen es seine Kunden schützen soll.
Google Research hat Gemini-SQL2 vorgestellt, eine Text-to-SQL-Funktion auf Basis von Gemini 3.1 Pro. Sie übersetzt natürliche Sprache in SQL, die Standardsprache zur Steuerung von Datenbanken. Im BIRD-Benchmark liegt das Tool deutlich vor OpenAIs GPT-5.5 und Anthropics Claude Opus 4.6.
Die Aufgabe ist besonders anspruchsvoll, da Daten vielschichtig sind und komplexe geschäftliche Zusammenhänge berücksichtigt werden müssen. Wann das Modell allgemein verfügbar wird, ließ Google offen.
Apple stellt kleineren App-Entwicklerinnen und -Entwicklern seine Cloud-Modelle der dritten Generation unter bestimmten Bedingungen kostenlos zur Verfügung. Wer KI-Funktionen einbauen will, darf die Cloud-Modelle gratis nutzen, sofern die App weniger als zwei Millionen Erst-Downloads im App Store hat. Das gilt laut Josh Shaffer, Senior Director für Platform Technologies bei Apple, für Neulinge wie etablierte Entwickler.
Die Modelle laufen mit Apples Datenschutzsystem Private Cloud Compute und werden nun zusätzlich in die Google Cloud auf Nvidia-Chips verlagert. Welche der drei Cloud-Modelle genau kostenlos sind und was Entwickler oberhalb der Schwelle zahlen, ließ Apple offen.
Das Team von Squeeze Labs hat mit „CrankGPT“ ein KI-Gerät gebaut, das per Handkurbel läuft. Im Inneren stecken ein Raspberry Pi 5 und ein Kurbelgenerator mit 20 Watt. Dank des schlanken Betriebssystems DietPi startet das System in etwa 30 Sekunden, beantwortet Fragen und übersetzt Sprache.
Das Projekt soll zeigen, dass KI auch ohne große Rechenzentren laufen kann. Die Entwickler sehen darin den Ansatz für energieeffiziente KI-Anwendungen auf günstiger Hardware.
(igr)
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。