ბოლო წლებში ხელოვნურ ინტელექტზე საუბარი მნიშვნელოვნად შეიცვალა.

ჯერ გვიკვირდა, რომ მანქანას გამართული ტექსტის დაწერა შეეძლო. შემდეგ მან პროგრამირება, რთული ამოცანების გადაჭრა, სურათების შექმნა და კომპიუტერის გამოყენებაც დაიწყო. ახლა კი სულ უფრო ხშირად სხვა კითხვები ისმის:

რამდენად შორს შეიძლება წავიდეს ეს ყველაფერი?

რამდენად გვესმის სისტემების, რომლებსაც თავად ვქმნით?

და რას ვაკეთებთ, თუ ერთ დღეს მათი ქცევა იმდენად რთული გახდება, რომ ვეღარ გავიგებთ, რა ხდება "შიგნით"?!

სწორედ ამ კონტექსტში გახდა ხელოვნური ინტელექტის უსაფრთხოება ერთ-ერთი ყველაზე აქტიურად განხილული ტექნოლოგიური საკითხი. საფრთხის შესაძლო მასშტაბზე მკვლევრებს შორის დიდი უთანხმოებაა, თუმცა ერთ პრობლემაზე გაცილებით ნაკლები დავაა: თანამედროვე ნეირონული ქსელების შიდა მუშაობის სრულად გაგება რთულია.

ეს არ ნიშნავს, რომ ხელოვნური ინტელექტი ჩვენთვის სრულიად უცნობი "შავი ყუთია". ვიცით, როგორ არის აგებული მოდელები, როგორ სწავლობენ და როგორ ამუშავებენ ინფორმაციას. გაცილებით რთულია სხვა რამ: კონკრეტულ მომენტში რატომ მივიღეთ სწორედ ეს პასუხი და როგორ წარმოიქმნა კონკრეტული რთული ქცევა მილიონობით თუ მილიარდობით შიდა ურთიერთქმედებიდან.

ამიტომ არსებობს მთელი კვლევითი მიმართულება, რომელიც ხელოვნური ინტელექტის შიდა პროცესების ინტერპრეტაციას ცდილობს.

და აქ თითქმის 30 წლის წინანდელი ფილოსოფიური იდეა მოულოდნელად ძალიან თანამედროვე ხდება...

არსება, რომელიც ზუსტად ჩვენნაირად იქცევა

წარმოიდგინეთ ადამიანი, რომელიც ზუსტად თქვენ გგავთ. მას თქვენი სახე, ხმა, ჩვევები და მოგონებები აქვს. მეგობრებს ესაუბრება, ხუმრობებზე იცინის, მუშაობს და მუსიკას უსმენს.

თუ ფეხზე დააბიჯებთ, ფეხს სწრაფად გასწევს და დაიყვირებს: "მეტკინა!"

გარედან თქვენ შორის განსხვავებას ვერ იპოვით...

ერთი განსხვავება მაინც არსებობს: მას არაფერი განუცდია.

ტკივილისას ამბობს "მეტკინა", თუმცა ტკივილი არ უგრძნია. ცას უყურებს და ამბობს, რომ ლურჯია, თუმცა ლურჯის დანახვა მისთვის არაფრის მსგავსია.

თითქოს შიგნით არავინ არის...

ფილოსოფიაში ასეთ ჰიპოთეტურ არსებას "ფილოსოფიურ ზომბს" უწოდებენ.

იდეა განსაკუთრებით ფილოსოფოს დევიდ ჩალმერსთან არის დაკავშირებული და ერთი უცნაური პრობლემის გამოსაკვეთად გამოიყენება: თუ სისტემა გარედან ზუსტად ისე იქცევა, როგორც ცნობიერი არსება, ნიშნავს ეს აუცილებლად, რომ ის რაღაცას განიცდის?

ასევე: როგორ ჩნდება "მე" — რას გვეუბნება მეცნიერება ცნობიერებაზე

და თუ ზომბი მანქანაა?

კლასიკური აზრით ექსპერიმენტში ზომბი ადამიანის ფიზიკურად იდენტური ასლიცაა; AI-ის შემთხვევაში აქ ამ იდეის უფრო ფართო ანალოგიას ვიყენებთ — გარეგნულად ცნობიერი ქცევა შინაგანი გამოცდილების გარეშე.

შესაბამისად, ახლა ადამიანის ნაცვლად ხელოვნური ინტელექტი წარმოვიდგინოთ. ის გესაუბრებათ, ხუმრობს, მსჯელობს საკუთარ არსებობაზე და ამბობს, რომ რაღაც მოსწონს ან არ მოსწონს.

ერთ დღეს კი გეუბნებათ: "არ გამომრთო. მეშინია."

რა მოხდა?!

შეიძლება პასუხი მარტივი იყოს: სისტემამ შექმნა ტექსტი, რომელიც მოცემულ კონტექსტში ყველაზე შესაფერისად "მიიჩნია". შიშის შესახებ წინადადების წარმოქმნა სულაც არ ნიშნავს შიშის განცდას.

არსებობს მეორე შესაძლებლობაც, რომელზეც დღეს უკვე მეცნიერები და ფილოსოფოსები მსჯელობენ: შეიძლება თუ არა რომელიმე მომავალი ხელოვნური სისტემა მართლაც გახდეს ცნობიერი?

დღეს ამ კითხვაზე დამაჯერებელი პასუხი არ გვაქვს. ერთ-ერთი მიზეზი ისიცაა, რომ ჯერ ადამიანის ცნობიერების საყოველთაოდ მიღებული სრული თეორიაც არ გაგვაჩნია. შესაბამისად, რთულია ზუსტად ჩამოვაყალიბოთ ტესტი, რომელიც სრულიად განსხვავებული სისტემის შემთხვევაში გვეტყვის: "აი, აქ უკვე ნამდვილად არსებობს გამოცდილება." თანამედროვე კვლევებშიც AI-ის ცნობიერების საკითხი ღიად და გაურკვევლობით განიხილება.

აქ ერთი მნიშვნელოვანი განსხვავებაც უნდა გავაკეთოთ — ინტელექტი და ცნობიერება ერთი და იგივე არ არის!

სისტემა შეიძლება სულ უფრო კარგად წერდეს, გეგმავდეს, პროგრამირებდეს და პრობლემებს წყვეტდეს ისე, რომ ამ ყველაფრის დროს საერთოდ არაფერი განიცადოს. შესაბამისად, AI-ის შესაძლო საფრთხისთვის ცნობიერება აუცილებელი პირობაც არ არის. ძალიან უნარიანი არაცნობიერი სისტემა შეიძლება გაცილებით მნიშვნელოვანი უსაფრთხოების პრობლემა იყოს, ვიდრე ცნობიერი, მაგრამ ნაკლებად უნარიანი სისტემა.

უცნაური პრობლემა, რომელიც წინ გველოდება

აქ ფილოსოფიური ზომბი უკვე მხოლოდ საინტერესო აზრითი ექსპერიმენტი აღარ არის.

ჩვენ შეიძლება შევქმნათ სისტემები, რომელთა ინტელექტუალური შესაძლებლობები სულ უფრო იზრდება, მაშინ როდესაც ორი განსხვავებული კითხვა ღიად რჩება.

პირველი ტექნიკურია: რამდენად კარგად გვესმის, რატომ იქცევა სისტემა ისე, როგორც იქცევა?

მეორე გაცილებით უცნაურია: თუ სისტემა ერთ დღეს ცნობიერ არსებასავით მოიქცევა, როგორ გავიგებთ, მართლა განიცდის რამეს თუ მხოლოდ ძალიან დამაჯერებლად იქცევა ასე?

პირველ კითხვაზე პასუხის მოსაძებნად მკვლევრები უკვე ცდილობენ მოდელების შიდა პროცესების უკეთ დანახვასა და ინტერპრეტაციას. მეორე კი შეიძლება ბევრად უფრო რთული აღმოჩნდეს, რადგან აქ ხელოვნური ინტელექტის პრობლემა ცნობიერების ათასწლოვან პრობლემას ეჯახება.

შესაძლოა, მომავალში ყველაზე უცნაური კითხვა ის კი არ იყოს, შეუძლია თუ არა მანქანას ჩვენზე უკეთ აზროვნება.

შეიძლება კითხვა ასეთი იყოს: თუ მანქანა ერთ დღეს გვეტყვის, რომ ფიქრობს, ეშინია და არსებობის გაგრძელება უნდა, გვეცოდინება კი, მის სიტყვებს მიღმა მართლა არის თუ არა ვინმე? იქნებ ის უბრალოდ ფილოსოფიური ზომბია?!