აიზეკ აზიმოვმა 1942 წელს რობოტიკის სამი კანონი ჩამოაყალიბა. თავდაპირველად ისინი სამეცნიერო ფანტასტიკის ნაწარმოებისთვის შეიქმნა, თუმცა დროთა განმავლობაში ხელოვნური ინტელექტისა და რობოტიკის ეთიკის ერთ-ერთ ყველაზე ცნობილ კოდექსად, იქცა. დღეს, როდესაც AI სისტემები ტექსტებს წერენ, სამედიცინო მონაცემებს აანალიზებენ, მანქანებს მართავენ, ხოლო ჰუმანოიდი რობოტები საწარმოებსა და ლაბორატორიებში მუშაობენ, სულ უფრო ხშირად ჩნდება კითხვა, რამდენად საკმარისია აზიმოვის იდეები 21-ე საუკუნისთვის?

რობოტიკის სამი კანონი

პირველი კანონი — რობოტმა არ შეიძლება ავნოს ადამიანს ან თავისი უმოქმედობით დაუშვას, რომ ადამიანს ზიანი მიადგეს.

რობოტიკის პირველი კანონი იერარქიულად ყველაზე ძლიერია სამი კანონიდან, რადგან რობოტის მთავარი დანიშნულება ადამიანის უსაფრთხოების დაცვაა. აიზეკ აზიმოვის მოთხრობების კრებულში "მე, რობოტი“, მოთხრობაში "წრეზე“ (Runaround), მოქმედება მერკურიზე ვითარდება. ორი ინჟინერი რობოტ სპიდის სელენის (სელენიუმის) მოსატანად აგზავნის, რადგან ეს ნივთიერება მათი მისიისთვის სასიცოცხლოდ მნიშვნელოვანია.

სელენის საბადო კი რობოტისთვის ძალიან სახიფათოა. ამ დროს ერთმანეთს უპირისპირდება მეორე და მესამე კანონები: მეორე კანონის მიხედვით, სპიდიმ ადამიანების ბრძანება უნდა შეასრულოს, ხოლო მესამე კანონი მას საკუთარი თავის დაცვისკენ უბიძგებს. ამ კონკრეტულ სიტუაციაში ეს ორი კანონი თითქმის თანაბარი ძალით მოქმედებს, რობოტი გადაწყვეტილებას ვეღარ იღებს და წრეზე სიარულს იწყებს.

მდგომარეობა მხოლოდ მაშინ იცვლება, როდესაც ერთ-ერთი ინჟინერი საკუთარ სიცოცხლეს საფრთხეში იგდებს. ამ მომენტში ამოქმედდება პირველი კანონი, რომელიც დანარჩენ ორზე მაღლა დგას: ადამიანის სიცოცხლის დაცვა ყველაზე მნიშვნელოვანი ხდება, ამიტომ სპიდი დაუყოვნებლივ მიეშურება მის გადასარჩენად.

ეს მოთხრობა ნათლად აჩვენებს, რომ აზიმოვის რობოტიკის სამი კანონი მხოლოდ მარტივი წესების ერთობლიობა არ არის. რეალურ, რთულ სიტუაციებში მათ შორის შეიძლება კონფლიქტი წარმოიშვას, რის გამოც რობოტს გადაწყვეტილების მიღება უჭირს, სანამ უმაღლესი პრიორიტეტის მქონე (პირველი)კანონი არ ამოქმედდება.

ერთი შეხედვით, პირველი კანონი მარტივი და გასაგებია, თუმცა თანამედროვე ტექნოლოგიების პირობებში მისი პრაქტიკაში გამოყენება რთულ ეთიკურ კითხვებს აჩენს. ამის ერთ-ერთი მაგალითია უპილოტო ავტომობილი, რომლის მთავარი მიზანი მგზავრის უსაფრთხოდ დანიშნულების ადგილამდე მიყვანაა.

რა მოხდება, თუ ავტოსაგზაო შემთხვევა გარდაუვალია? როგორ უნდა მოიქცეს სისტემა, როდესაც ნებისმიერ გადაწყვეტილებას შეიძლება ადამიანის სიცოცხლე შეეწიროს? უნდა მიანიჭოს უპირატესობა საკუთარ მგზავრს თუ გზაზე მყოფ სხვა ადამიანს? ასეთ სიტუაციებში აზიმოვის პირველი კანონი ცალსახა პასუხს აღარ იძლევა.

მეორე კანონი — რობოტი უნდა დაემორჩილოს ადამიანის მიერ მიცემულ ბრძანებებს, თუ ისინი პირველ კანონს არ ეწინააღმდეგება.

მეორე კანონი ავალდებულებს რობოტს, შეასრულოს ადამიანის ბრძანებები, თუ ისინი პირველი კანონის დარღვევას არ იწვევს. ამ კანონის საინტერესო მაგალითია აიზეკ აზიმოვის მოთხრობა „პატარა დაკარგული რობოტი“ (Little Lost Robot).

მოთხრობაში მეცნიერები ქმნიან რობოტებს, რომელთა პროგრამიდან პირველი კანონის ნაწილი სპეციალურად არის შეცვლილი. ჩვეულებრივი რობოტისგან განსხვავებით, მათ აღარ ეკრძალებათ ყველა იმ სიტუაციაში ადამიანის პოტენციური საფრთხის თავიდან აცილება, რაც მათ უფრო სახიფათო გარემოში მუშაობის საშუალებას აძლევს.

ერთ-ერთ ასეთ რობოტს მეცნიერი გაღიზიანებული ეუბნება: „დაიკარგე!“. მეორე კანონის შესაბამისად, რობოტი ამ ბრძანებას პირდაპირ აღიქვამს, ტოვებს სამუშაო ადგილს და სხვა, იდენტურ რობოტებს შორის იმალება. ამის შემდეგ მეცნიერებს უჭირთ მისი პოვნა, რადგან ყველა რობოტი გარეგნულად ერთნაირია და არ არიან დანომრილები.

მოთხრობა ნათლად აჩვენებს, რომ რობოტი ადამიანის ბრძანებას სიტყვასიტყვით ასრულებს, მაშინაც კი, როდესაც ადამიანს მისი შედეგები ბოლომდე გააზრებული არ აქვს. სწორედ ამიტომ, პრობლემა რობოტის დაუმორჩილებლობა კი არა, ადამიანის მიერ ბუნდოვანი ან დაუფიქრებელი მითითების მიცემაა. აზიმოვი ამით გვიჩვენებს, რომ უსაფრთხო ხელოვნური ინტელექტის შექმნისთვის მხოლოდ რობოტის მორჩილება საკმარისი არ არის — არანაკლებ მნიშვნელოვანია, რამდენად ზუსტად და პასუხისმგებლიანად აძლევს მას დავალებას ადამიანი.

თანამედროვე სამყაროში “ზიანის“ ცნება მხოლოდ ფიზიკური ზიანით აღარ შემოიფარგლება. ხელოვნურ ინტელექტს შეუძლია მავნე ინფორმაციის გავრცელება, თაღლითური შეტყობინებების შექმნა ან ისეთი ინსტრუქციების მიწოდება, რომლებმაც შესაძლოა ადამიანებს ზიანი მიაყენოს.

ჩნდება კითხვა: როგორ უნდა განსაზღვროს, მაგალითად, ChatGPT-მ, რომელი მოთხოვნის შესრულება შეიძლება და რომელი არა? როგორ უნდა მიხვდეს სისტემა, როდის შეიძლება მისი პასუხი სხვისთვის საზიანო აღმოჩნდეს? სწორედ ამიტომ თანამედროვე AI სისტემები ზოგიერთ მოთხოვნაზე უარს ამბობენ და უსაფრთხოების სპეციალურ წესებს ეყრდნობიან.

მესამე კანონი — რობოტმა უნდა დაიცვას საკუთარი თავი, თუ ეს არ ეწინააღმდეგება პირველ ან მეორე კანონს.

მესამე კანონი ავალდებულებს რობოტს, დაიცვას საკუთარი არსებობა, თუ ეს არ ეწინააღმდეგება პირველ ან მეორე კანონს. ეს კანონი იშვიათად მოქმედებს დამოუკიდებლად და იერარქიულად ყველაზე ნაკლებად მნიშვნელოვანიცაა. ამ კანონის გამოვლინება ჩანს აიზეკ აზიმოვის მოთხრობაში „რობი“ (Robbie). რობოტი რობი პატარა გოგონას, გლორიას, მეგობარი და მომვლელია. იგი ჩვეულებრივ თავს არიდებს საფრთხეს და მოქმედებს ისე, რომ საკუთარი არსებობაც შეინარჩუნოს. თუმცა, როდესაც გლორია მოძრავი ტრაქტორის წინ აღმოჩნდება, რობი დაუფიქრებლად მიდის მის გადასარჩენად, მიუხედავად იმისა, რომ თავად დიდი საფრთხის წინაშე დგება. ამ ეპიზოდში ნათლად ჩანს, რომ მესამე კანონი მოქმედებს მხოლოდ მანამდე, სანამ ადამიანის სიცოცხლე საფრთხეში არ არის. როგორც კი პირველი კანონი ამოქმედდება, საკუთარი თავის დაცვა მეორეხარისხოვანი ხდება და რობოტი მზად არის საკუთარი არსებობაც კი საფრთხეში ჩააგდოს ადამიანის გადასარჩენად.

ეს კანონი განსაკუთრებით კარგად ჩანს კოსმოსურ მისიებში გამოყენებული რობოტების შემთხვევაში. მაგალითად, მარსმავალები ისეა დაპროგრამებული, რომ თავიდან აიცილონ ისეთი რელიეფი ან გარემო, რომელმაც შეიძლება მათი დაზიანება გამოიწვიოს. ისინი ზოგჯერ უფრო გრძელ, მაგრამ უსაფრთხო მარშრუტს ირჩევენ, რათა მისიის გაგრძელება შეძლონ. თუმცა, თუ მსგავსი გადაწყვეტილება ადამიანების უსაფრთხოებას ეჭვქვეშ დააყენებდა, პრიორიტეტი ყოველთვის ადამიანის სიცოცხლეს მიენიჭებოდა.

80 წლის შემდეგ

აზიმოვის რობოტიკის კანონების შექმნიდან 80 წელზე მეტი გავიდა, თუმცა ისინი დღემდე ხელოვნური ინტელექტისა და რობოტიკის ეთიკის ერთ-ერთ ყველაზე მნიშვნელოვან კონცეფციად მიიჩნევა. მიუხედავად ამისა, თანამედროვე ტექნოლოგიების განვითარებამ ნათლად აჩვენა, რომ რეალობა შეიძლება გაცილებით უფრო რთული იყოს, ვიდრე ეს 1942 წელს წარმოედგინათ. აზიმოვი საკუთარ მოთხრობებშიც აჩვენებს მკითხვლს, რომ ეს კანონები მართალია, ლოგიკურია, მაგრამ ნამდვილ სიტუაციებში,ხშირად, არ მუშაობს ან ართულებს არსებულ პრობლემას.

დღეს ხელოვნური ინტელექტი აღარ შემოიფარგლება მხოლოდ წინასწარ განსაზღვრული ბრძანებების შესრულებით. თანამედროვე AI სისტემებს შეუძლიათ მონაცემების ანალიზი, შაბლონების ამოცნობა, პროგნოზების გაკეთება და ისეთ გადაწყვეტილებებში მონაწილეობა, რომლებიც პირდაპირ გავლენას ახდენს ადამიანების ცხოვრებაზე. სწორედ ამიტომ, სულ უფრო აშკარა ხდება, რომ აზიმოვის სამი კანონი თანამედროვე ხელოვნური ინტელექტის უსაფრთხოებისა და ეთიკური მართვის უზრუნველსაყოფად საკმარისი აღარ არის.

თუმცა აზიმოვის მთავარი გზავნილი დღესაც უცვლელად აქტუალურია: ინტელექტუალური სისტემების შექმნასა და განვითარებას ყოველთვის უნდა ახლდეს ეთიკური პასუხისმგებლობა. მიუხედავად იმისა, რომ მისი კანონები ხელოვნური ინტელექტის ყველა გამოწვევას ვერ პასუხობს, მათ მნიშვნელოვანი გავლენა მოახდინეს AI-ის ეთიკის განვითარებაზე და დღემდე რჩება ამ სფეროში ერთ-ერთ ყველაზე გავლენიან იდეად.