OpenAI ჩატბოტ ChatGPT-სა და Codex-ის მიერ გენერირებულ ტექსტებს სპეციალურ უხილავ იარლიყს, ე. წ. წყლის ნიშანს, დაამატებს. მიზანი ისაა, რომ სერვისები ევროკავშირის ხელოვნური ინტელექტის აქტთან (EU AI Act) შესაბამისობაში მოიყვანონ. ამის შესახებ კომპანიამ ოფიციალურ ბლოგპოსტში განაცხადა.

ევროკავშირის AI აქტის გამჭვირვალობის წესები ძალაში 2 აგვისტოს შევიდა. ისინი ხელოვნური ინტელექტის შემქმნელ კომპანიებს ავალდებულებს, AI-ს მიერ შექმნილი მასალა ისე მონიშნონ, რომ მისი იდენტიფიცირება სხვა სისტემებმაც შეძლოს.

OpenAI-ს ცნობით, სპეციალური უხილავი იარლიყი მომდევნო კვირების განმავლობაში ამოქმედდება. სიახლე მხოლოდ ევროკავშირში მცხოვრებ მომხმარებლებს შეეხებათ — იმის მიუხედავად, უფასო პაკეტით სარგებლობენ თუ ფასიანით. დეველოპერებს, რომლებიც მსოფლიოს ნებისმიერი წერტილიდან OpenAI-ს API-ს იყენებენ, ფუნქციის ჩართვა გარკვეული მოდელებისთვის უკვე შეუძლიათ, თუმცა ის სტანდარტულად გამორთულია. კომპანიაში განმარტავენ, რომ ტექსტის სპეციალური იარლიყით ავტომატურად მონიშვნას გლობალურად ჯერჯერობით არ გეგმავენ.

ამ სპეციალურ იარლიყს ვიზუალურად სულაც ვერ შენიშნავთ. ტექნოლოგია მოდელის მიერ სიტყვების შერჩევის პროცესს უმნიშვნელოდ ცვლის და ტექსტში ისეთ ფარულ კანონზომიერებას ტოვებს, რომელსაც მკითხველი ვერ შეამჩნევს, თუმცა სპეციალური დეტექტორი მარტივად აღმოაჩენს. ვინაიდან ეს ნიმუში უშუალოდ სიტყვების წყობაშია ჩაქსოვილი, ის ტექსტის კოპირებისა და ჩასმის დროსაც ინარჩუნებს თვისებებს. OpenAI-ში აცხადებენ, რომ იარლიყი მომხმარებლის ვინაობას არ ამჟღავნებს და მისი გააქტიურება მოდელების მუშაობის ხარისხზე უარყოფითად არ მოქმედებს.

სიახლესთან ერთად კომპანიამ ტექნიკური ანგარიშიც გამოაქვეყნა, სადაც ამ მეთოდის — textGrain-ის — მუშაობის პრინციპია აღწერილი. პენსილვანიისა და იელის უნივერსიტეტების მკვლევრებთან თანამშრომლობით მომზადებულ დოკუმენტში ახსნილია, როგორ იყენებს ალგორითმი ე. წ. საიდუმლო გასაღებს, რომ წინადადების დასასრულებლად მომდევნო სიტყვები დაალაგოს. როდესაც ასეთი მცირე "ბიძგები" ტექსტში ასჯერ მეორდება, დეტექტორს შეუძლია, მხოლოდ ტექსტისა და ამ გასაღების გამოყენებით ამოიცნოს ხელოვნური ინტელექტის მიერ შექმნილი მასალა.

შესაძლებელია თუ არა, რომ ეს უხილავი იარლიყი ტექსტის რედაქტირებით წავშალოთ? OpenAI-ს ტესტები აჩვენებს, რომ დიახ. ერთ-ერთი ექსპერიმენტისას სიტყვების 10% სინონიმებით ჩაანაცვლეს და ამოცნობის სიზუსტე 92%-იდან 66%-ამდე შეამცირა. კომპანიაში ასევე აღნიშნავენ, რომ უხილავი ნიშნის აღმოჩენა განსაკუთრებით ჭირს მოკლე აბზაცებში, მათემატიკურ პასუხებსა და ნათარგმნ ტექსტებში.

"სწორედ ამ შეზღუდვების გამო გადავწყვიტეთ, რომ დეტექტორზე პირველადი წვდომა მხოლოდ ავტორიზებულ მკვლევრებსა და ექსპერტულ ორგანიზაციებს მივცეთ. ისინი დაგვეხმარებიან, სისტემის სანდოობა შევაფასოთ", — აცხადებენ კომპანიაში.

OpenAI ასევე აფრთხილებს მომხმარებლებს, რომ სპეციალური იარლიყის არარსებობა ავტომატურად "ადამიანის ავტორობას არ ამტკიცებს". ტექსტი შეიძლება ძალიან მოკლე იყოს, საფუძვლიანად იყოს დარედაქტირებული ან სულაც სხვა კომპანიის AI-ს მიერ იყოს შექმნილი.

"იარლიყს შეუძლია მიგვანიშნოს, რომ ტექსტის ნაწილი OpenAI-ს სისტემამ შექმნა ან დაამუშავა, თუმცა ის ვერ გვიჩვენებს, რამდენად დიდი იყო ამ პროცესში ადამიანის ჩართულობა, რედაქტირება თუ შემოქმედებითი წვლილი", — განმარტავს კომპანია.

OpenAI-ს ამ გადაწყვეტილებამდე ორი თვით ადრე მსგავსი ნაბიჯი Anthropic-მაც გადადგა და განაცხადა, რომ Claude-ის მიერ გენერირებულ ტექსტებს უხილავ იარლიყს მთელი მსოფლიოს მასშტაბით დაამატებდა. ამ ნაბიჯს მომხმარებელთა ნაწილის უკმაყოფილება მოჰყვა. მათი თქმით, ინსტრუქციებს, კონტექსტსა და საბოლოო გადაწყვეტილებებს თავად უზრუნველყოფდნენ, Claude კი მხოლოდ "ინსტრუმენტის" როლს ასრულებდა.

საინტერესოა, რომ OpenAI-ს ტექსტებისთვის უხულავი იარლიყი ადრეც ჰქონდა შექმნილი, თუმცა მისი გამოშვებისგან თავს იკავებდა. The Wall Street Journal-ის 2024 წლის ცნობით, კომპანიას ეშინოდა, რომ მომხმარებლები კონკურენტულ პლატფორმებზე გადავიდოდნენ, სადაც მსგავსი შეზღუდვები არ მოქმედებდა.

Anthropic, Google, Meta, Microsoft და OpenAI იმ ტექნოლოგიურ გიგანტებს შორის არიან, რომლებმაც ევროკავშირის ხელოვნური ინტელექტის ქცევის კოდექსის დაცვის ვალდებულება აიღეს.