შეიძლება ყველა კითხვას სწორად უპასუხო და მაინც საერთოდ არ გესმოდეს, რას ამბობ?

ერთი შეხედვით, უცნაური კითხვაა. თუ ვინმე ჩვენს კითხვებს პასუხობს, ხუმრობას ხვდება, არგუმენტებში გვედავება და საუბრის კონტექსტსაც მიჰყვება, ბუნებრივად ვასკვნით, რომ ჩვენი ესმის.

ხელოვნური ინტელექტის შემთხვევაში ეს დასკვნა უკვე ასეთი მარტივი აღარ არის.

შეგიძლიათ დაუსვათ შეკითხვა, პასუხში შეედავოთ, სთხოვოთ საკუთარი არგუმენტის გადახედვა, ხუმრობით მისწეროთ და ბოლოს სრულიად სხვა თემაზეც გადახვიდეთ. სისტემა საუბარს მიჰყვება და ხშირად ისეთ პასუხებს გაძლევთ, რომ სიტყვა "ესმის" სრულიად ბუნებრივად გვადგება ენაზე.

"მიხვდა, რასაც ვეკითხები."

"ხუმრობა გაიგო."

"აზრი სწორად გაიგო."

უბრალოდ, რას ნიშნავს აქ "გაიგო"?

შეიძლება სისტემა იმდენად კარგად იყენებდეს ენას, რომ გაგების ყველა ნიშანს ვხედავდეთ და მაინც არ ვიცოდეთ, აქვს თუ არა მისთვის ამ სიტყვებს რაიმე მნიშვნელობა?

ეს პრობლემა თანამედროვე ხელოვნურ ინტელექტზე ბევრად ძველია.

როდესაც კარგი პასუხი საკმარისი არ არის

ჯერ კიდევ 1950 წელს ალან ტიურინგმა მანქანურ ინტელექტზე საუბრისას ცნობილი ტესტი შემოგვთავაზა.

იდეა დაახლოებით ასეთი იყო: იმის ნაცვლად, რომ გვეკითხა, "შეუძლია თუ არა მანქანას აზროვნება", შეგვეძლო გვენახა, როგორ იქცევა ის.

თუ ტექსტური საუბრისას ადამიანი საიმედოდ ვერ არჩევს, მეორე მხარეს ადამიანი ესაუბრება თუ მანქანა, მისი ინტელექტუალური შესაძლებლობები სერიოზულად უნდა მივიღოთ.

დაახლოებით 30 წლის შემდეგ ფილოსოფოსმა ჯონ სერლმა საკითხი სხვა მხრიდან დასვა.

დავუშვათ, მანქანა მართლაც დამაჯერებლად გვესაუბრება. ნიშნავს ეს იმასაც, რომ მას ჩვენი სიტყვები ესმის?

თქვენ ჩინური არ იცით

1980 წელს სერლმა ცნობილი "ჩინური ოთახის" აზრობრივი ექსპერიმენტი აღწერა.

დავუშვათ, ოთახში ხართ და ჩინური საერთოდ არ იცით.

გარედან ფურცლებზე დაწერილ ჩინურ სიმბოლოებს გაწვდიან. თქვენთვის ისინი უბრალოდ გაუგებარი ნიშნებია. ოთახში კი გაქვთ უზარმაზარი ინსტრუქცია, რომელიც ზუსტად გკარნახობთ, რა უნდა გააკეთოთ.

თუ ასეთი ნიშნები შემოვიდა, მოძებნეთ ასეთი ნიშნები და უკან გააგზავნეთ.

თქვენ წარმოდგენა არ გაქვთ, რას ნიშნავს მიღებული ტექსტი. არც ის იცით, რას ნიშნავს თქვენი პასუხი. უბრალოდ წესებს მიჰყვებით.

გარეთ კი ჩინურის მცოდნე ადამიანი ზის.

ის კითხვებს ჩინურად წერს და ოთახიდან გამართულ, აზრიან პასუხებს იღებს. დიალოგი შეიძლება იმდენად კარგი იყოს, რომ ვერც კი მიხვდეს, ოთახში მყოფმა ადამიანმა ჩინური საერთოდ რომ არ იცის.

გარედან ყველაფერი მუშაობს: კითხვას შესაბამისი პასუხი მოჰყვება და ენა სწორად გამოიყენება.

შიგნით მყოფ ადამიანს კი წარმოდგენა არ აქვს, რაზეა საუბარი.

სერლისთვის სწორედ ეს იყო მთავარი.

პასუხის ცოდნა და გაგება ერთი და იგივეა?

ჩინური ოთახის იდეა სინამდვილეში საკმაოდ მარტივია.

შეიძლება ზუსტად იცოდეთ, რომელი პასუხი რომელ კითხვას უნდა მოაყოლოთ და მაინც წარმოდგენა არ გქონდეთ, რას ნიშნავს არც კითხვა და არც პასუხი.

სერლი ფიქრობდა, რომ მსგავსი პრობლემა კომპიუტერულ პროგრამებთანაც გვაქვს. კომპიუტერს შეუძლია ინფორმაციის წესების მიხედვით დამუშავება, თუმცა ნიშნავს ეს იმასაც, რომ მას ამ ინფორმაციის მნიშვნელობა ესმის?

მისი პასუხი უარყოფითი იყო.

სერლი ამტკიცებდა, რომ მხოლოდ წესების სწორად შესრულება გაგებისთვის საკმარისი არ არის.

ოთახიდან შეიძლება იდეალური პასუხი გამოვიდეს მაშინაც კი, როდესაც ოთახში მყოფ ადამიანს საერთოდ არ ესმის, რა თქვა.

შემდეგ გაჩნდა თანამედროვე AI

აქ ჩინური ოთახი განსაკუთრებით საინტერესო ხდება.

დღევანდელი დიდი ენობრივი მოდელები, რა თქმა უნდა, სერლის ოთახში მჯდომ ადამიანს პირდაპირ არ ჰგავს.

მათ არ აქვთ უზარმაზარი წიგნი, რომელშიც ყველა შესაძლო კითხვაზე პასუხია ჩამოწერილი. თანამედროვე მოდელები დიდი რაოდენობის მონაცემებზე სწავლობს, ტექსტში რთულ კანონზომიერებებს პოულობს და მიღებული კონტექსტის მიხედვით ქმნის პასუხებს.

ამიტომ იმის თქმა, რომ "ChatGPT უბრალოდ ჩინური ოთახია", ზედმეტი გამარტივება იქნებოდა.

სერლის მთავარი კითხვა კი არსად გამქრალა.

როდესაც სისტემა წერს კარგ ესეს, პოულობს შეცდომას პროგრამულ კოდში, ხსნის მეტაფორას ან თქვენი შეკითხვის ქვეტექსტსაც სწორად პასუხობს, საიდან ვიცით, რომ ის მხოლოდ ინფორმაციას ძალიან დახვეწილად კი არ ამუშავებს, არამედ მისი მნიშვნელობაც ესმის?

რაც უფრო უმჯობესდება ხელოვნური ინტელექტი, ეს განსხვავება სულ უფრო საინტერესო ხდება.

იქნებ არასწორ ადგილას ვეძებთ?

ჩინური ოთახის წინააღმდეგ ერთ-ერთი ყველაზე ცნობილი არგუმენტი დაახლოებით ასე ჟღერს:

კარგი, ოთახში მჯდომ ადამიანს ჩინური არ ესმის. რატომ უნდა ნიშნავდეს ეს, რომ ჩინური მთელ სისტემასაც არ ესმის?

ადამიანი ხომ მხოლოდ ერთი ნაწილია. არსებობს ინსტრუქციები, მიღებული ინფორმაცია, მისი დამუშავება, მეხსიერება და პასუხის შექმნის მთელი პროცესი.

მსგავსი რამ ჩვენს ტვინზეც შეგვიძლია ვთქვათ.

ცალკეულ ნეირონს არც ეს სტატია ესმის და არც სიტყვა "ჩინური". მიუხედავად ამისა, მილიარდობით ნეირონის ერთობლივი მუშაობის შედეგად ჩვენ ტექსტის მნიშვნელობას ვიგებთ.

იქნებ ამიტომ შეცდომაა ვეძებოთ გაგება სისტემის რომელიმე ერთ ნაწილში?

სერლი ამ პასუხს არ ეთანხმებოდა. მისი აზრით, ოთახში მყოფ ადამიანს შეეძლო ყველა წესი დაემახსოვრებინა და მთელი პროცესი თავად შეესრულებინა, თუმცა ჩინური მისთვის მაინც გაუგებარი დარჩებოდა.

სწორედ აქ მივდივართ უფრო რთულ კითხვამდე:

რა უნდა ხდებოდეს სისტემაში იმისთვის, რომ ვთქვათ, მას რაღაც ნამდვილად ესმის?

ასევე: შეიძლება ხელოვნური ინტელექტი ფილოსოფიური ზომბი იყოს? — როდესაც ქცევა ცნობიერებას არ ნიშნავს

იქნებ გაგებას სხეულიც სჭირდება?

აქ კიდევ ერთი საინტერესო პრობლემა ჩნდება.

ჩინურ ოთახში სიმბოლოები მხოლოდ სხვა სიმბოლოებს უკავშირდება. ოთახში მყოფმა ადამიანმა შეიძლება იცოდეს, როგორ უნდა მოიქცეს ჩინური სიტყვა "ვაშლის" დანახვისას, თუმცა რეალური ვაშლი არასდროს უნახავს.

ადამიანი ენას ასე არ სწავლობს.

ვაშლს ვხედავთ, ხელში ვიჭერთ, ვჭამთ. ვიცით მისი გემო, ფორმა, სუნი და წონა. სიტყვა "ვაშლი" ჩვენთვის მხოლოდ სხვა სიტყვებთან კი არა, სამყაროსთანაც არის დაკავშირებული.

იქნებ მნიშვნელობის გასაგებად მხოლოდ ენა საკმარისი არ არის? იქნებ სისტემას სამყაროსთან ურთიერთობაც სჭირდება?

ეს კითხვა თანამედროვე AI-ის შემთხვევაში კიდევ უფრო საინტერესო ხდება. ხელოვნური სისტემები უკვე მხოლოდ ტექსტთან აღარ მუშაობს. მათ შეუძლია სურათების, ხმისა და ვიდეოს დამუშავება, ზოგ შემთხვევაში კი ციფრულ ან ფიზიკურ გარემოში მოქმედებაც.

რაც უფრო მეტად უკავშირდება ხელოვნური ინტელექტი გარე სამყაროს, მით უფრო რთული ხდება მისი სერლის ოთახთან პირდაპირ შედარება.

მაშ, ესმის AI-ს?

ამ კითხვაზე მარტივი პასუხი არ გვაქვს. პრობლემის ნაწილი თვითონ სიტყვა "გაგებაა".

ადამიანზე საუბრისას მას თავისუფლად ვიყენებთ. მანქანასთან კი უცებ ზუსტი საზღვარი გვჭირდება.

რა უნდა შეეძლოს სისტემას, რომ ვთქვათ, მას ესმის?!

სწორი პასუხების გაცემა?

ცოდნის ახალ სიტუაციაში გამოყენება?

საკუთარი შეცდომის აღმოჩენა?

სამყაროსთან ურთიერთობა?

თუ კიდევ რაღაც გვჭირდება?

ჩინური ოთახი ამ კითხვაზე პასუხს არ გვაძლევს და სწორედ ამიტომაა საინტერესო.

ის გვაიძულებს ერთმანეთისგან გავმიჯნოთ ორი რამ, რომლებიც ყოველდღიურ ცხოვრებაში თითქმის ყოველთვის ერთად გვხვდება: სწორი პასუხის გაცემა და იმის გაგება, რას ნიშნავს ეს პასუხი.

1980 წელს ეს ძირითადად ფილოსოფიური კამათი იყო.

დღეს კი ყოველდღიურად ვესაუბრებით სისტემებს, რომლებიც სულ უფრო უკეთ იყენებს ენას.

ამიტომ სერლის ძველი კითხვა ახლა ბევრად უფრო კონკრეტულად ჟღერს:

თუ ხელოვნური ინტელექტი ზუსტად ხვდება, რა პასუხი გვჭირდება, ნიშნავს ეს იმასაც, რომ მას ესმის, რას ამბობს?

თუ სტატიაში განხილული თემა და ზოგადად: მეცნიერებისა და ტექნოლოგიების სფერო შენთვის საინტერესოა, გამოიწერე ჩვენი YouTube არხი და უყურე თემატურ ვიდეოებს.