In Brussel worden de twee grootste Europese tabakswetten herzien: de regels voor tabaksproducten en die voor tabaksreclame. Voordat de Europese Commissie een wetsvoorstel doet, vraagt ze eerst de samenleving om input. Binnen een maand kwamen er ruim 80.000 reacties binnen.
Ter vergelijking: bij 97 procent van dit soort consultatierondes blijft het aantal reacties onder de duizend. Ons onderzoek toont aan dat het enorme aantal reacties op de tabakswet voor een groot deel is toe te schrijven aan een AI-model, een grote meerderheid van de Nederlandse reacties blijken toe te schrijven aan een AI-campagne van Philip Morris (PMI). De tabaksproducent riep burgers in Nederland op om zich uit te spreken tegen strengere regels voor tabak en nicotine.
Dat deed het bedrijf enigszins verhuld, onder de naam 'Your Voice Your Choice'. Omdat dit deel van de raadpleging is afgerond is de tool van Philip Morris inmiddels offline. Via gele affiches bij tabakspeciaalzaken en via de website van IQOS, het e-sigaretmerk van Philip Morris, werden klanten via een QR-code doorgestuurd naar een tool die hun reactie schrijft. We legden ruim 65.000 reacties uit vijftien EU-landen voor aan AI-detector Pangram. Na Portugal, en net boven Frankrijk, komt het grootste aandeel AI-reacties bij ons vandaan. Van de 786 Nederlandse reacties is 71 procent vrijwel zeker volledig door AI geschreven. Voor alle reacties uit de vijftien EU-landen is dat 35 procent.
Experts herkennen een oude tactiek in een nieuw jasje: de tabaksindustrie probeert beleid te beïnvloeden via burgers en andere partijen. De inzet van AI daarbij is nieuw.
[Artikel gaat verder onder de grafiek]
Het zijn geen losse teksten uit ChatGPT of een andere chatbot. De website waar mensen terechtkomen leidt je door een aantal opties: of je rookt, welke producten je gebruikt en “welke aspecten het belangrijkst zijn voor u”. Deze enquête-vorm met multiple choice moet de input vormen voor de AI-tekst die je na het kiezen kan laten maken. Pointer vulde verschillende keuzes geautomatiseerd in en liet zo meer dan honderd AI-teksten maken, die we vergeleken met de Nederlandse reacties. Dan blijkt dat negen op de tien AI-reacties zó sterk lijken op de honderd teksten uit de generator van Philip Morris, dat ze er vrijwel zeker vandaan komen.
De tool schrijft de reactie in de ik-vorm. Met maar één knop geef je aan dat je voor verdere beperkingen bent. Elf van de twaalf “belangrijke aspecten” geven je argumenten tégen strengere regels. Ook de “verdere zorgen” die de gebruiker kan aanklikken zijn allemaal negatief over verdere regulering. In de teksten die we genereerden dook regelmatig een argument op dat we niet vooraf als input hadden meegegeven, zoals het idee dat strengere regels averechts werken, of dat het product een minder schadelijk alternatief is.
Nadat de tekst is gegenereerd, word je naar de website van de EU-commissie gestuurd en gevraagd of je daar uit eigen naam de tekst wilt versturen. Dat de tool vrijwel alleen tegen regulering stuurt, zien we terug in de inzendingen: van de 370 reacties die vrijwel zeker uit de PMI-tool komen, pleiten er maar zes voor verdere regulering.
Experts zien misleidende kenmerken in de campagne. Burgers aansporen om feedback te geven op aankomende wetgeving is op zichzelf een geaccepteerde vorm van lobby, zegt Rik Joosen, bestuurskundige aan de Universiteit Leiden en gespecialiseerd in lobby en EU-beleid. Het probleem zit in de sturing. "Een AI-tool is hier effectief geweest om burgers deel te laten nemen, maar niet met hun volledig eigen, oprechte en ongestuurde stem", aldus Joosen.
De naam 'Your Voice Your Choice' suggereert een neutraal platform, terwijl Philip Morris alleen in kleine letters wordt genoemd en de voorgeselecteerde antwoorden bijna allemaal één kant op wijzen. "Vanuit het oogpunt van democratische inspraak en ethische lobby gaat dit voor mij duidelijk over de schreef", zegt Iskander de Bruycker, hoofddocent EU-lobby aan Maastricht University.
De Commissie benadrukt dat publieke inspraak voor haar zwaar weegt en dat raadplegingen een getrouw beeld van de publieke opinie moeten geven. “We zijn daarom zeer bezorgd over berichten over door de industrie gesteunde campagnes om de resultaten van de raadpleging te beïnvloeden en veroordelen de vermeende pogingen van de tabaksindustrie om de reacties op de oproep tot het indienen van bewijsmateriaal te sturen. Het is van cruciaal belang dat de standpunten van burgers niet worden gemanipuleerd of verkeerd worden weergegeven. Dit is met name belangrijk gezien de recente ontwikkelingen op het gebied van AI en andere nieuwe technologieën.”
Omdat de herziening zal kijken naar regulering rond alternatieven voor sigaretten, bijvoorbeeld nieuwe nicotineproducten als e-sigaretten, vapes, verhitte tabak en snuss (nicotinezakjes), is dit voor Philip Morris hét moment om de lobby op te voeren. Zo'n 40 procent van de omzet komt inmiddels uit deze, door Philip Morris geframede ‘rook-vrije’ producten, en juist die dreigen sterker gereguleerd te worden.
Volgens het WHO-tabaksverdrag, dat ook de EU heeft ondertekend, hoort de tabaksindustrie geen rol te spelen in de beleidsvorming, omdat haar commerciële belangen strijdig zijn met de volksgezondheid. Met deze AI-campagne probeert Philip Morris juist invloed uit te oefenen op dat beleid, verpakt als de stem van burgers.
De campagne leidde al tot een motie na actie van artsen die om deze campagne naar de Reclame Code Commissie stapten. Kamerleden van zes partijen verzochten de regering zich tegen de campagne uit te spreken en deze te laten stoppen. Minister van Volksgezondheid, Welzijn en Sport, Sophie Hermans had geen bezwaar tegen de motie en liet het oordeel aan de Kamer; wel merkte ze op dat het aan de Nederlandse Voedsel- en Warenautoriteit is om te beoordelen of het reclameverbod is overtreden.
Philip Morris zegt in een reactie: "We maken gebruik van standaard AI-instellingen om teksten leesbaar, coherent en relevant te maken. Die zijn gericht op structurering en begrijpelijkheid, niet op het sturen van de inhoud richting een specifiek standpunt. Het informeren van volwassenen over hun mogelijkheid om deel te nemen aan zo'n proces is geen manipulatie, maar een legitieme bijdrage aan een participatieve democratie. Ons doel is om bewustzijn te creëren en deelname te vergemakkelijken. De mate waarin volwassenen ervoor kiezen om deel te nemen en hun reacties naar wens aan te passen, ligt bij henzelf. [Philip Morris red.] vindt het zorgwekkend dat er partijen zijn die deelname aan een openbaar en door de Europese Commissie georganiseerd democratisch consultatieproces neerzetten als ongewenste beïnvloeding."
Hoe weten we hoeveel AI-reacties van de PMI-campagne tool komen?
De AI-detector van Pangram kijkt alleen of (en hoeveel van) een tekst door een mens of door een taalmodel is geschreven. Waar die AI-tekst vandaan komt, weet het Pangram-model niet. Een AI-reactie zou dus net zo goed van een willekeurige chatbot kunnen zijn. Om dat onderscheid te maken gebruikten we verschillende statistische modellen (Jaccard similarity, TF-IDF, GMM) die kijken hoe sterk een inspraakreactie woord voor woord lijkt op de ruim honderd teksten die wij zelf door de PMI-tool hebben laten maken.
Dan blijkt dat van de 426 Nederlandse reacties die Pangram met hoge zekerheid volledig als AI-tekst aanmerkt, 95 procent (403 stuks) zo sterk op de PMI-tool teksten dat ze er (vrijwel) zeker uit komen. Andersom merkt Pangram elke reactie uit die 'tool-groep' als AI aan. De AI-reacties in deze inspraakronde voert dus bijna helemaal terug op de campagne van Philip Morris, niet op burgers die zelf met een chatbot-account van OpenAI, Google of Anthropic aan de slag zijn geweest, maar met de campagne tool van tabaksfabrikant Philip Morris International.
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。