Láthatatlan vízjelet kapnak a Claude szövegei: felbosszantotta a felhasználókat

A mesterséges intelligencia körüli vitákban sokan nem attól tartanak igazán, amit az eszköz csinál, hanem attól, amit a használata elárulhat róluk. Az Anthropic új megoldása éppen ezt az érzékeny pontot találta el. A cég a Claude által generált szövegekbe olyan láthatatlan mintázatot épít, amely alapján később felismerhető lehet, hogy a tartalom mesterséges intelligenciától származik.

A felhasználó ebből semmit nem lát, és a szöveg minősége sem változik. Mégis akadtak, akik a bejelentés után azt mondták: inkább lemondják az előfizetésüket.

Mit csinál valójában a vízjel?

A technológia lényege meglepően egyszerű. Amikor Claude több, jelentésében egyenértékű megfogalmazás közül választhat – például két hasonló szó vagy mondatszerkezet között –, ezeket az apró döntéseket egy meghatározott minta szerint hozza meg.

A jel nem külön felirat vagy metaadat, hanem magába a szövegbe épül. Az olvasó számára észrevehetetlen, megfelelő felismerő rendszerrel viszont kimutatható.

A módszer technológiai alapja sem teljesen új: az Anthropic a Google DeepMind által korábban bemutatott SynthID-Text megközelítésére épít, és olyan nyilvános felismerő API-t is tervez, amellyel ellenőrizhető lesz, tartalmazza-e egy szöveg a vízjelet.

Nem ugyanaz, mint amikor „AI-szagú” mondatokat keresünk

Ez fontos különbség. A hagyományos AI-detektorok általában abból próbálnak következtetni a gépi eredetre, hogy milyen szófordulatok, mondatszerkezetek vagy statisztikai minták jelennek meg a szövegben. Az Anthropic megoldása ezzel szemben nem találgat: egy eleve beépített jelet keres.

A kérdés persze rögtön adódik: el lehet tüntetni?

Részben igen. A kisebb szerkesztések várhatóan nem szedik ki teljesen a mintát, egy alapos átírás viszont már igen. Ha valaki mondatról mondatra újrafogalmazza a szöveget, szavakat cserél és átszerkeszti a bekezdéseket, a vízjel fokozatosan eltűnhet.

Ez jól mutatja, mire való igazán a technológia: nem arra, hogy minden AI-val valaha érintett mondatot örökre megjelöljön, hanem arra, hogy a változtatás nélkül vagy minimális szerkesztéssel továbbadott gépi szövegek könnyebben felismerhetők legyenek.

Nem mindegy, hogyan használjuk a Claude-ot

Ha valaki saját maga ír meg egy cikket vagy levelet, és Claude-dal csak javíttatja, rövidítteti vagy finomítja, jóval kevesebb tér marad a vízjel számára. A szöveg nagy része ugyanis továbbra is emberi eredetű.

Hasonló a helyzet a programkóddal is. Ott a modell mozgástere eleve szűkebb, hiszen a kódnak működnie kell, ezért kevesebb olyan szabad nyelvi választás adódik, amelybe a jel beépíthető. Inkább a kommentekben vagy magyarázó szövegekben lehet jelentősége.

Az EU-s szabályozás is ott van a háttérben

Az Anthropic lépése nem pusztán technológiai kísérlet. A háttérben egyre erősebb szabályozási elvárás áll: az AI-val előállított tartalmak eredetének valamilyen módon felismerhetőnek kell lennie. A vízjelezés ezért egyre fontosabb eszközzé válhat az átláthatóságban, és várhatóan más nagy modellfejlesztők is hasonló megoldásokkal próbálkoznak majd.

A vita valójában a kontrollról szól

A bejelentés után gyorsan megjelentek az ellenzők is. Volt, aki megfigyelésként vagy túlzott kontrollként értelmezte a vízjelet, mások pedig éppen azt kérdezték: miért zavar bárkit, ha egy AI által írt szövegről később kiderülhet, hogy AI írta?

A vízjel nem lassítja a Claude-ot, nem rontja a válaszait, és a felhasználó számára láthatatlan. A tiltakozás inkább arról az érzésről szól, hogy ami eddig kizárólag a felhasználó és az eszköz közötti ügynek tűnt, annak ezentúl maradhat felismerhető nyoma.

Ez különösen érzékeny lehet azok számára, akik nem ötletelésre vagy szerkesztésre használják a chatbotot, hanem kész szövegeket vesznek át tőle, majd saját munkaként adják tovább.

Mit jelent ma egyáltalán az, hogy „AI-val készült”?

A vízjel egy régebbi kérdést is újra előhoz: hol húzódik a határ segítség és szerzőség között? Ha valaki megír egy cikket, majd a Claude kijavít benne néhány mondatot, az már AI-szöveg? Ha a gép készít egy első változatot, amit az ember teljesen átír, még mindig gépi eredetű? És mi történik akkor, ha a tartalom emberi ötletből, emberi kutatásból és emberi szerkesztésből születik, de az első mondatokat egy chatbot fogalmazta meg?

Erre a technológia önmagában nem tud végleges választ adni.

A vízjel leginkább azt jelzi, mennyi maradt meg az eredeti gépi mintázatból. Minél többet gondolkodik, szerkeszt és ír hozzá az ember, annál kevésbé lesz értelmezhető a kész szöveg egyszerűen „AI által írtnak”.

Talán ezért a jövőben nem az lesz a legérdekesebb kérdés, hogy használtunk-e mesterséges intelligenciát, hanem az, hogy mit tettünk hozzá ahhoz, amit kaptunk tőle.

Aki valóban dolgozik a szöveggel, annak a vízjel valószínűleg kevésbé lesz fontos. Aki viszont egyetlen kattintással továbbadja a kész választ, annak érdemes számolnia azzal, hogy a szöveg a jövőben talán már maga is elárulja, honnan érkezett.