Filigranarea textului generat de inteligența artificială este abordată diferit de marii dezvoltatori precum OpenAI și Google.
OpenAI a explorat o metodă simplă prin utilizarea caracterelor speciale invizibile în modelele recente. Deși inițial părea un filigran intenționat, ulterior a fost clarificat drept o particularitate neintenționată a procesului de antrenament. Această metodă simplă, deși ușor de detectat și de îndepărtat, a generat discuții despre adevăratele intenții ale companiei. În paralel, OpenAI a creat o tehnică de filigranare statistică mult mai sofisticată, dar a ales să nu o lanseze public din cauza considerentelor de impact asupra utilizatorului și a vulnerabilității metodei la atacuri simple, cum ar fi traducerea automată.
În schimb, Google a adoptat o strategie mai deschisă și robustă prin dezvoltarea SynthID, o soluție complexă pentru filigranarea și identificarea conținutului generat de AI în multiple medii – text, imagini, audio și video. SynthID Text utilizează o abordare integrată încă din procesul generării textului. Important este că Google a decis să lanseze această tehnologie open-source, arătând un angajament clar față de transparență și responsabilitate în utilizarea inteligenței artificiale. SynthID este deja implementat în aplicația și platforma Gemini, permițând utilizatorilor să interacționeze cu textul cu filigran în mod inconștient.
Deși există progrese considerabile, filigranul AI rămâne în curs de dezvoltare, încă se confruntă cu provocări tehnice și practice semnificative.
Surse:
- OpenAI, "Our approach to AI watermarking and detection" (OpenAI Blog, 2023) [https://openai.com/research/watermarking]
- Google DeepMind, "SynthID: Watermarking and Identifying AI-generated Content" (2023) [https://deepmind.google/discover/blog/synthid-watermarking-identifying-ai-generated-content/]
- IEEE Spectrum, "Why AI Watermarking Is Harder Than It Sounds" (2023) [https://spectrum.ieee.org/ai-watermarking-challenges]
- MIT Technology Review, "Google’s New SynthID Watermarks AI-Generated Images and Text" (2023) [https://www.technologyreview.com/2023/08/29/1077805/google-ai-synthid-watermark/]
- arXiv, "Robust Watermarking for Large Language Models" (2023) [https://arxiv.org/abs/2306.04634]