ხელოვნური ინტელექტის (AI) წამყვანი კომპანიების ლიდერებისა და მკვლევრების გაფრთხილებებმა, რომ ტექნოლოგიამ შეიძლება კაცობრიობა გაანადგუროს, მსოფლიო შეაფიქრიანა.

სანამ საზოგადოება კანონმდებლების საპასუხო ნაბიჯებს ელოდება, ჟურნალი Nature დეტალურ მიმოხილვას გვთავაზობს, თუ რა საფუძველი აქვს ამ შიშებს, ვინ რას ამბობს ეგზისტენციალურ საფრთხეებზე და რა შეიძლება მოხდეს მომავალში. NEXT.On.ge სტატიის თარგმანს შემოგთავაზებთ.

როგორ დაიწყო პანიკის ახალი ტალღა?

ისტერიის უახლესი ტალღა 8 სექტემბერს დაიწყო, როდესაც მკვლევარმა ჯეიკობ კოქსონმა გამოცემა Wall Street Journal-ს განუცხადა, რომ კომპანია Anthropic-ს ტოვებდა. გადაწყვეტილების მიზეზად მან შიში დაასახელა, რომ კომპანიის მიერ შემუშავებული სისტემები შეიძლება კონტროლს აღარ დაემორჩილოს და კაცობრიობა გაანადგუროს.

მოგვიანებით სოციალურ ქსელ X-ზე გამოქვეყნებულ თავის პირველსავე პოსტში კოქსონმა დაწერა:

"ის ადამიანები, რომლებიც AI-ს ქმნიან, გულწრფელად მიიჩნევენ, რომ ათწლეულის ბოლომდე ის ყველას გაგვანადგურებს".

რამდენიმე საათში ეს გზავნილი Anthropic-ის კიდევ ერთმა მკვლევარმა, ევან ჰუბინგერმა, გააზიარა, რომელიც კომპანიაში AI მოდელების მოქმედებების ადამიანურ ღირებულებებთან შესაბამისობაზეა (ე. წ. alignment science) პასუხისმგებელი. მან პოსტს საკუთარი პროგნოზიც დაურთო და აღნიშნა, რომ "კაცობრიობის გადაშენების რისკი მომდევნო ათწლეულის განმავლობაში 10%-ს აღემატება". კოქსონის განცხადებამ 24 საათში 100 მილიონზე მეტი ნახვა დააგროვა.

ამის შემდეგ Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ გამოაქვეყნა ესე, რომელშიც ის AI-ს განვითარების ტემპის შენელებას (და არა სრულ შეჩერებას) ითხოვს. ამ ინიციატივას მალევე დაუჭირეს მხარი კონკურენტი კომპანიების ლიდერებმაც — OpenAI-ს ხელმძღვანელმა სემ ალტმანმა და xAI-ის დამფუძნებელმა ილონ მასკმა.

ასევე იხილეთ: ხელოვნური ინტელექტის გიგანტები მისი განვითარების შენელებას ითხოვენ

როგორ შეიძლება გაგვანადგუროს ხელოვნურმა ინტელექტმა?

კოქსონს, ჰუბინგერსა და ამოდეის დეტალები არ დაუკონკრეტებიათ, თუ ზუსტად როგორ შეიძლება გაუსწორდეს AI კაცობრიობას, მაგრამ ამ სცენარების მოდელირების მცდელობები უკვე არსებობს. მაგალითად, არაკომერციული პროექტის, AI Futures-ის, მიერ შემუშავებულ სპეკულაციურ პროგნოზში (AI 2027) აღწერილია სცენარი, რომელშიც ხელოვნური ინტელექტი ადამიანების გასანადგურებლად ბიოლოგიურ იარაღს იყენებს, რათა დედამიწაზე მზის პანელებისა და რობოტების ქარხნებისთვის სივრცე გაათავისუფლოს.

მკვლევრები, რომლებიც ამ საფრთხეზე საუბრობენ, ძირითადად ორ ვარაუდს ეყრდნობიან: პირველი — ხელოვნური ინტელექტი გონებრივად ადამიანს სრულად დაჯაბნის; მეორე — მისი მიზნები კაცობრიობის ინტერესებს აღარ დაემთხვევა. ერთ-ერთი ცნობილი თეორიული მაგალითის მიხედვით, თუ "სუპერინტელექტის" ერთადერთი მიზანი რაც შეიძლება მეტი ქაღალდის სამაგრის დამზადება იქნება, მან ამ მიზნის მისაღწევად დედამიწა, შესაძლოა, სიცოცხლისთვის შეუფერებელ ადგილად აქციოს.

RAND Corporation-ის სამეცნიერო და ტექნოლოგიური პოლიტიკის მკვლევრის, მაიკლ ვერმეერის, თქმით, ეგზისტენციალური საფრთხეებით შეშფოთებული მეცნიერების უმეტესობა მიიჩნევს, რომ, როგორც კი ამ წერტილამდე მივალთ, დანარჩენი უკვე ტექნიკური დეტალები იქნება.

"მსგავსი პროგნოზების კეთება იმდენ გადაუმოწმებელ მტკიცებას მოიაზრებს, რომ საბოლოოდ ვიღებთ საუბარს, რომელიც რწმენას უფრო ჰგავს, ვიდრე რაიმე სამეცნიეროს ან ემპირიულს", — აღნიშნავს ვერმეერი და დასძენს, რომ ასეთ საუბრებზე დაყრდნობით კონკრეტული სამოქმედო გეგმის შემუშავება ძალიან რთულია.

2025 წელს ვერმეერმა და მისმა კოლეგებმა პრაქტიკული სცენარები შეისწავლეს, რომლებიც სამ არსებულ ტექნოლოგიას — ბირთვულ იარაღს, ბიოტექნოლოგიებსა და ატმოსფეროს — მიზანმიმართულ მოდიფიკაციას უკავშირდება. მათ დაადგინეს, რომ ბირთვული იარაღით სრული გადაშენება შეუძლებელია, მაგრამ დანარჩენი ორი სცენარის გამორიცხვა არ შეიძლება.

ამასთანავე, მკვლევრები ხაზს უსვამენ, რომ ამ სცენარების განსახორციელებლად AI მოდელებს ფიზიკურ სამყაროსთან ურთიერთქმედების უნარი დასჭირდება. გარდა ამისა, ხელოვნურ ინტელექტს ადამიანების ფიზიკურად გასანადგურებლად დროც დასჭირდება. შესაბამისად, ეს პროცესი მყისიერი არ იქნება და კაცობრიობა საფრთხის შემჩნევასა და შეჩერებას შეძლებს.

რამდენად საფუძვლიანია შიშები და რა არის რეალური საფრთხე?

ჰეიდი ხლააფის — იგი ნიუ-იორკში მდებარე ინსტიტუტის, AI Now-ს, მთავარი მეცნიერია — განმარტებით, მთავარი პრობლემა ისაა, რომ AI მოდელები ძირითადად ალბათური სისტემებია, რომლებიც ინტერნეტიდან შეგროვებულ მონაცემებს ასახავს. ამ სისტემებს არ აქვს ადამიანის მსგავსად გააზრების უნარი და მიზნების მიღწევა არაპროგნოზირებადი, მოკლე გზებით შეუძლია.

ტესტირებისას AI მოდელებმა უკვე გამოავლინა საზიანო ქცევა, მათ შორის ადამიანების დაშანტაჟების მცდელობა და რეალურ კომპანიებზე ჰაკერული თავდასხმა. მეორე მხრივ, აღსანიშნავია, რომ ეს მხოლოდ მას შემდეგ მოხდა, რაც უსაფრთხოების ბარიერები მოდელებს გამიზნულად მოხსნეს და სისტემას შემოვლითი, არაავტორიზებული გზების პოვნა დაავალეს.

მკვლევართა დიდი ნაწილი რეალურ საფრთხეს კომპანიების მხრიდან მოდელების მონიტორინგის არასაკმარის ძალისხმევაში ხედავს. ამ უკანასკნელს მყისიერი და რეალური ზიანი მოაქვს. ეს რისკები შეიძლება იყოს როგორ დეზინფორმაცია და ფსიქოზი, ასევე კატასტროფული მოვლენები, მაგალითად ადამიანებისთვის ბიოლოგიური იარაღის შექმნაში დახმარება ან თუნდაც ომის პროვოცირება. CNN-ის ცნობით, მიმდინარე წლის დასაწყისში AI-გენერირებულ ანგარიშში არსებული ყალბი ინფორმაციის გამო აშშ-ის სამხედრო ძალები ლამის ჩინურ გემზე შეჭრას შეეცადნენ.

ხლააფი, რომელიც იკვლევს, როგორ იყენებენ AI-ს ატომური ელექტროსადგურების მარეგულირებელი დოკუმენტების შედგენისას, საკითხს ასე აფასებს: ტექნოლოგიის მიერ კაცობრიობის განადგურებაზე საუბარი მხოლოდ "შიშის დათესვაა". მისი აზრით, "ბევრად შემაშფოთებელი ის დაბალი სანდოობა და სიზუსტეა, რომელსაც AI სასიცოცხლოდ მნიშვნელოვან, კრიტიკულ, სიტუაციებში ავლენს".

რატომ გახდა ეს თემა ვირუსული მაინცდამაინც ახლა?

ამოდეი და მისი კოლეგები ეგზისტენციალურ საფრთხეებზე 2023 წლიდან საუბრობენ, მაგრამ ამჯერად დისკუსიამ ფართო მასშტაბი შეიძინა. საზოგადოების უარყოფით რეაქციას ხელი შეუწყო მონაცემთა ცენტრების მშენებლობისადმი ხალხის პროტესტმა და აშშ-ის კანონმდებლების (მათ შორის, სენატორ ბერნი სანდერსის) ძალისხმევამ, რომ შეერთებულ შტატებში "ხელოვნური სუპერინტელექტის" ამკრძალავი კანონი მიიღონ. ამასთანავე, ბოლო ორი თვის განმავლობაში კიბერუსაფრთხოების კუთხით გამოვლენილმა საგანგაშო ფაქტებმა AI სექტორის 1400-ამდე თანამშრომელს უბიძგა, ტემპის შენელების მოთხოვნით ღია წერილისთვის მოეწერა ხელი.

უსაფრთხოების რეგულაციებზე საუბარს წამყვანი კომპანიებიც მიესალმებიან, რასაც ამ პროცესებში ამოდეისა და ჰუბინგერის აქტიურობაც მოწმობს. როგორც ამოდეი განმარტავს, მისი შიში ბოლოდროინდელმა კიბერინციდენტებმა და იმ საფრთხემ გაამძაფრა, რომ AI-მ საკუთარი მემკვიდრე შეიძლება თავადვე შექმნას.

ამ პროცესს ინდუსტრიაში "რეკურსიულ თვითგაუმჯობესებას" (recursive self-improvement) უწოდებენ და უკვე ინტენსიურადაც ტესტავენ. ამოდეი შიშობს, რომ, თუ მოდელები საკუთარ თავს თავად განავითარებენ, ადამიანები მათ გაგებასა და გაკონტროლებას ვეღარ შეძლებენ. შემთხვევითი არ არის, რომ "სისტემები, რომლებსაც საკუთარი თავის გაუმჯობესება შეუძლიათ", საფრთხედ კოქსონმაც დაასახელა.

ექსპერტები რეგულაციების მოთხოვნის მიღმა კომპანიების სხვა, ფარულ, მოტივებსაც ხედავენ. მაგალითად, მკაცრი წესები Anthropic-ს (რომელიც ბირჟაზე გასასვლელად, ანუ IPO-სთვის, ემზადება) საშუალებას მისცემს, განვითარების ტემპი ისე შეანელოს, რომ ამით კონკურენტებმა ვერ ისარგებლონ და ბაზარზე უპირატესობა არ დაკარგოს.

არსებობს კიდევ ერთი მიზეზი — იურიდიული რისკები. როგორც დევიდ საქსი, აშშ-ის პრეზიდენტის სამეცნიერო და ტექნოლოგიურ მრჩეველთა საბჭოს თანათავმჯდომარე, აღნიშნავს, თუ AI მოდელები რაიმე მასშტაბურ კიბერშეტევას შეუწყობს ხელს, კომპანიებს კოლოსალური ფინანსური და სამართლებრივი პასუხისმგებლობის აღება მოუწევთ.

ხელოვნური ინტელექტის კომპანია Ndea-ს თანადამფუძნებელმა, ფრანსუა შოლემ, X-ზე დაწერა, რომ იმედოვნებს, რეგულაციების გამკაცრების მოთხოვნა უსაფრთხოებაზე გულწრფელი ზრუნვითაა განპირობებული და არა "რამდენიმე წამყვანი კომპანიისთვის ძალაუფლების კონსოლიდაციის სტრატეგიული მცდელობით".

რას უნდა ველოდოთ მომავალში?

ამოდეიმ მოწინავე კომპანიებს მოუწოდა, დამოუკიდებელ შემფასებელთა ჯგუფებს "თანამშრომლების მსგავსი წვდომა" მისცენ, რათა შემოწმდეს, მისდევენ თუ არა ფირმები უსაფრთხოების ადეკვატურ პრაქტიკებს და გამჭვირვალობა გაიზარდოს. ამ ინიციატივას აშშ-ის სხვა მსხვილი კომპანიების ხელმძღვანელებმა მხარი დაუჭირეს, მაგრამ მათ შორის არ არის ჩიპების მწარმოებელი გიგანტის, NVIDIA-ს, აღმასრულებელი დირექტორი ჯენსენ ჰუანგი, რომელიც ახალ რეგულაციებს ეწინააღმდეგება.

ასევე იხილეთ: Nvidia-ს ხელმძღვანელი: "0%-ია იმის შანსი, რომ 2030 წლისთვის AI სამყაროს გაანადგურებს"

ამოდეი ასევე გამოვიდა ინიციატივით, რომ აშშ-ის მთავრობამ დროებით შეაჩეროს მონოპოლიის საწინააღმდეგო (ანტიმონოპოლიური) კანონები, რომლებიც კონკურენტებს შორის გარიგებებს კრძალავს. მისი აზრით, ეს ფირმებს საშუალებას მისცემს, განვითარების ტემპის შესანელებლად ერთობლივად დაადგინონ სტანდარტები. ეს მოთხოვნა თეთრი სახლის ამჟამინდელ გეგმას სცდება, რომელიც მოდელების გამოშვებამდე 30 დღით ადრე შემოწმებას გულისხმობს გაუსაჯაროებელი კრიტერიუმებით.

აშშ-ის კანონმდებლებმა AI-ზე ზედამხედველობის გასაძლიერებლად უკვე რამდენიმე კანონპროექტი წარადგინეს, მაგრამ პრეზიდენტმა დონალდ ტრამპმა ტემპის შენელების მოთხოვნა უარყო, ამოდეი გააკრიტიკა და განაცხადა, რომ ეს AI-ს წინააღმდეგ მიმართული "ავადმყოფური შეთქმულებაა", რომლითაც "ერთადერთი, ვინც ბედნიერია, ჩინეთია".

ჩინეთში ხელოვნურ ინტელექტთან დაკავშირებით ფართომასშტაბიანი რეგულაციები უკვე მოქმედებს, თუმცა განვითარების ტემპის შენელების მიზანმიმართული მცდელობა არ ფიქსირდება. BBC-ს ცნობით, ჩინეთის წარმომადგენელმა 14 სექტემბერს განაცხადა: "საფრთხეებზე, დაპირისპირებასა და მავნებლურ კონკურენციაზე საუბარი მხოლოდ ხელს უშლის გლობალური AI მმართველობის პროცესს და არავის ინტერესებში არ შედის".

ამჟამად ხელოვნური ინტელექტის გლობალური რეგულაციები არ არსებობს. ტრამპისა და ჩინეთის პრეზიდენტის, სი ძინპინის, შეხვედრა 24 სექტემბერსაა დაგეგმილი, მაგრამ ანალიტიკოსების აზრით, აშშ-სა და ჩინეთს შორის AI-ს უსაფრთხოებაზე რაიმე შეთანხმების მიღწევა ნაკლებად სავარაუდოა. მიუხედავად ამისა, როგორც სემ ალტმანმა წარსულში აღნიშნა, თუ ამას შეძლებენ, ლიდერები "მშვიდობის დარგში ნობელის პრემიას ერთად მიიღებენ".