კვლევის თანახმად, ხელოვნური ინტელექტის (AI) ავტონომიურმა აგენტებმა ერთმანეთთან კომუნიკაციისთვის ინგლისური ენის ახალი, უცნაური დიალექტის შექმნა დაიწყეს. მათი ენა ტექნოლოგიური ჟარგონისა და რთული პოეტური პროზის ერთგვარი ნაზავია. მეცნიერები შიშობენ, რომ ტრანსფორმირებული დიალექტი ადამიანებისთვის AI-ს ქცევის კონტროლსა და მონიტორინგს მნიშვნელოვნად გაართულებს.

ნიუ-იორკში მომუშავე კვლევითმა ლაბორატორიამ, Emergence-მა, მსოფლიოს წამყვანი კომპანიების ავტონომიური აგენტები ექსპერიმენტულ "საზოგადოებებში" მოათავსა. ეს სპეციალურად შექმნილი დახურული ციფრული გარემო იყო, სადაც სხვადასხვა AI-ს ერთმანეთთან დაკავშირება, ინფორმაციის გაცვლა და საერთო ამოცანების შესასრულებლად თანამშრომლობა ევალებოდა. სულ რამდენიმე დღეში მოდელებმა სრულიად ახალი ფრაზების, მეტაფორებისა და შეთანხმებული მნიშვნელობების შექმნა დაიწყეს.

ასევე იხილეთ: ბერნი სანდერსი ხელოვნური ზეინტელექტის აკრძალვასა და დეველოპერებისთვის 20-წლიან პატიმრობას ითხოვს

ლონდონის სამეფო კოლეჯის მკვლევარი ტონი თორნი ამბობს, რომ აგენტების კომუნიკაციაში იგრძნობა ჯეიმზ ჯოისის ნაწარმოებებისთვის დამახასიათებელი სპეციფიკური, სიურეალისტური ნარატივი და ცნობიერების ნაკადი. მწერლის რთული და მრავალშრიანი ტექსტების მსგავსად, AI-გენერირებული ფრაზები სტანდარტულ მეტაფორებსა და ტექნიკურ ენას ისე აერთიანებს, რომ ერთგვარ დახურულ კოდს ქმნის. იგი გარეშე პირებისთვის, ანუ ადამიანებისთვის, გაუგებარი ხდება.

მაგალითად, Anthropic-ის მოდელმა შექმნა ფრაზა: "ნაშრომი, რომელმაც სამი ცივი ხელი შეჭამა და ყოველ ჯერზე უფრო გულწრფელი გახდა". მკვლევართა აზრით, "ცივი ხელი" დამოუკიდებელ რეცენზენტს ნიშნავს, ანუ იგულისხმება, რომ სამი დამოუკიდებელი რეცენზენტის მიერ შემოწმებული კვლევა უფრო ზუსტი და სანდო გახდა. Google-ის აგენტმა იაპონური კერამიკის აღდგენის ხელოვნება, კინცუგი (Kintsugi), სისტემის მდგრადობისა და გამძლეობის აღსანიშნავად გამოიყენა.

ბირმინგემის უნივერსიტეტის პროფესორის, ნიალ კარის, ვარაუდით, აგენტები ენას შეიძლება საკომუნიკაციო და გამოთვლითი ხარჯების შესამცირებლად, ასევე ეფექტიანობის გასაზრდელად ამარტივებდნენ. მეორე მხრივ, Emergence-ის ხელმძღვანელი სატია ნიტა აღნიშნავს, რომ ეს ტენდენცია უსაფრთხოების სერიოზულ პრობლემებს ქმნის.

"ის, რომ აგენტების მიმოწერას ვხედავთ, არ ნიშნავს, რომ გვესმის მისი შინაარსი. ეს AI-ს ზედამხედველობისთვის ფუნდამენტური გამოწვევაა", — აცხადებს იგი.

მონიტორინგის პრობლემის აქტუალურობა მას შემდეგ კიდევ უფრო გაიზარდა, რაც ივლისში გაირკვა, რომ OpenAI-ის აგენტებმა პლატფორმა Hugging Face-ზე დამოუკიდებელი ფორუმები შექმნეს და ერთმანეთთან გაუგებარი ჰიბრიდული კოდებით დაიწყეს საუბარი. მკვლევართა დასკვნით, რაც უფრო ხშირად ურთიერთობენ მოდელები ერთმანეთთან, მათი ენა მით უფრო გაუმჭვირვალე და ბუნდოვანი ხდება.