Meta-მ ჩუმად ჩააშენა სახის ამოცნობის ტექნოლოგია თავისი ჭკვიანი სათვალეებისთვის განკუთვნილ აპლიკაციაში, რომელიც მილიონობით ტელეფონზეა დაყენებული — ამას WIRED-ის მიერ ჩატარებული კომპანიის პროგრამული უზრუნველყოფის ანალიზი ცხადყოფს.

Meta-ს AI აპლიკაციაში წელს რამდენიმე განახლების დროს შეუმჩნევლად დამატებული კოდი აჩვენებს, რომ ფუნქცია, რომელსაც კომპანიის შიგნით "NameTag"-ს უწოდებენ, სათვალეების კამერით გადაღებული ადამიანების იდენტიფიცირებას ახდენს და გააქტიურებისას მფლობელს ეუბნება, როცა ვინმეს ცნობს.

NameTag-ის აღმოჩენა Meta AI-ის აქტიურ აპლიკაციაში ცხადყოფს, რომ Meta-მ სახის ამოცნობის კოდის მომხმარებლებისთვის გავრცელება მაშინ დაიწყო, როდესაც საჯაროდ ამბობდა, რომ ამ საკითხზე ჯერ კიდევ "ფიქრობდა". აპრილში Meta-მ განაცხადა, რომ სახის ამოცნობის გამოყენების შემთხვევაში მას "ძალიან გააზრებული მიდგომის" გარეშე არ დანერგავდა. თუმცა WIRED-მა დაადგინა, რომ იანვრის დასაწყისიდანვე სისტემის მთავარი კომპონენტები უკვე ინტეგრირებული იყო მილიონობით ადამიანის მოწყობილობაზე გავრცელებულ პროგრამაში.

NameTag ჯერ გააქტიურებული არ არის, მაგრამ უკვე ჩაშენებულია Meta AI-ის აპლიკაციაში, რომელიც 50 მილიონზე მეტჯერ ჩამოიტვირთა. ეს აპლიკაცია საჭიროა Ray-Ban-ისა და Oakley-ის ჭკვიანი სათვალეების გამოსაყენებლად. გააქტიურების შემთხვევაში, ის სათვალეებით გადაღებულ სახეებს უნიკალურ ბიომეტრიულ ხელმოწერებად გარდაქმნის — ე.წ. სახის ანაბეჭდებად — და თითოეულს შეადარებს მომხმარებლის ტელეფონში შენახულ სახეებს, რომელთა განახლებაც ამჟამად Meta-ს სერვერებიდან ხდება. ამოცნობილ სახეებს მომხმარებელს შეტყობინებით აცნობებს, დანარჩენები კი დამუშავდება, და "მოლოდინის" საქაღალდეში შეინახება.

NameTag კვლავ გააცოცხლებს იმ ტიპის ტექნოლოგიას, რომლის გამოყენებაც Meta-მ 2021 წელს შეწყვიტა. ფოტოებზე მონიშვნის სისტემის გარშემო წლების განმავლობაში გაჩაღებული კამათის შემდეგ, კომპანიამ გამოაცხადა, რომ Facebook-ის მომხმარებლების მილიარდზე მეტ სახის ანაბეჭდს წაშლიდა. Meta-მ საბოლოოდ $650 მილიონი გადაიხადა ილინოისის მომხმარებლების მიერ შეტანილი სარჩელზე მოსარიგებლად და 2024 წელს, ბიომეტრიული მონაცემების უკანონო შეგროვების ბრალდებების გამო დამატებით $1.4 მილიარდის ანაზღაურებაზე შეთანხმდა ტეხასთან.

კომპანიის განახლებული მცდელობები იმ დროს ჩნდება, როდესაც სამომხმარებლო სახის ამოცნობის ტექნოლოგიის წინააღმდეგ პროტესტი მძაფრდება. კონფიდენციალურობის დამცველების გაფრთხილებით, ის სტალკერებსა და საიმიგრაციო სამსახურს საშიშ ინსტრუმენტზე მარტივ წვდომას მისცემს. The New York Times-ის მიერ თებერვალში გამოქვეყნებულმა Meta-ს შიდა დოკუმენტებმა ცხადყო, რომ კომპანია ფუნქციის "დინამიური პოლიტიკური გარემოს" დროს გამოშვებას გეგმავდა, მაშინ, როდესაც, Meta-ს შეფასებით, მისი მთავარი კრიტიკოსები სხვა საკითხებით იქნებოდნენ დაკავებულები.

WIRED-ის ანალიზის თანახმად, (რომელიც დამოუკიდებლად გადაამოწმეს გარე ექსპერტებმა) NameTag-ს სამი AI მოდელი ამოძრავებს, რომლებიც უკვე Meta-ს სერვერებიდან არის განლაგებული და მომხმარებელთა ტელეფონებზე ინახება. ერთი მოდელი სახეებს აღმოაჩენს, მეორე ჭრის, მესამე კი ბიომეტრიულ მონაცემებად გარდაქმნის.

ფუნქციის დიზაინი ჯერ სრულად არ არის მზად და მხოლოდ ფრაგმენტები ჩანს, თუმცა ისინი მინიშნებას იძლევა, საბოლოოდ როგორ იმუშავებს. აპლიკაციის მაისის ვერსიაში ფუნქციას ჰქვია "Connections" და მომხმარებელს სთავაზობს "დაიმახსოვროს ადამიანები, რომლებსაც შეხვდა". ჯერ გაურკვეველია, ვისი სახეები შევა სისტემის მონაცემთა ბაზაში, როგორ შეიქმნება ეს პროფილები და რამდენი ადამიანი იქნება საბოლოოდ ამოცნობადი.

WIRED-მა თავისი აღმოჩენები უსაფრთხოების ორ მკვლევარს გაუზიარა, რომლებმაც აპლიკაცია შეამოწმეს და ანალიზის მთავარი ასპექტები დამოუკიდებლად გადაამოწმეს: კუპერ კუინტინს, Electronic Frontier Foundation-ის Threat Lab-ის უფროს სპეციალისტს და ბუქოდის ფსევდონიმით ცნობილ დამოუკიდებელ მკვლევარს, რომელიც ათ წელზე მეტია სამომხმარებლო პროგრამებისა და სათვალთვალო ტექნოლოგიების ამოხსნას მისდევს.

"ფუნქცია ჯერ მომხმარებლებისთვის ხელმისაწვდომი არ არის, მაგრამ თითქმის მზად გამოიყურება", — ამბობს კუინტინი — "მიუხედავად ამის საწინააღმდეგო მილიარდობით მიზეზისა, Meta-მ, როგორც ჩანს, შექმნა შესაძლებლობა, თავისი მომხმარებლები სათვალთვალო ქსელად აქციოს".

ბუქოდიმ ამოცნობის სისტემაზე დამატებითი ტესტები ჩაატარა. იმის სანახავად, მუშაობდა თუ არა შედარების სისტემა, ბუქოდიმ აპლიკაციის გალერეაში გარდაცვლილი ფრანგი ფილოსოფოსის, მიშელ ფუკოს სურათიდან აღებული ერთი სახის ანაბეჭდი დაამატა. NameTag-ის ფუკოს სურათით გაშვების შემდეგ აპლიკაციამ შეტყობინება გამოიტანა: "ადამიანი ამოცნობილია".

"სახის ამოცნობის ფუნქციის მთავარი კომპონენტები უკვე Meta-ს თანმხლებ აპლიკაციაშია", — ამბობს ბუქოდი — "ამუშავებამდე ძალიან ცოტა ნაბიჯია დარჩენილი".

აპრილში 70-ზე მეტმა სამოქალაქო ორგანიზაციამ — მათ შორის American Civil Liberties Union-მა, Electronic Privacy Information Center-მა და Fight for the Future-მა — Meta-ს NameTag-ის გაუქმება მოსთხოვა და გააფრთხილა, რომ ის სტალკერებსა და მოძალადეებს საშუალებას მისცემდა, საჯარო სივრცეში უცნობები ჩუმად ამოიცნონ. "ჩვენი კონკურენტები სახის ამოცნობის ამგვარ პროდუქტს სთავაზობენ, ჩვენ არა", — განაცხადა Meta-ს წარმომადგენელმა WIRED-თან — "თუ ასეთ ფუნქციას გამოვუშვებდით, რაიმეს დანერგვამდე ძალიან გააზრებულ მიდგომას გამოვიყენებდით".

კონფიდენციალურობის დამცველების აზრით, სახის ამოცნობის მასობრივი მოხმარების პლატფორმაში ჩაშენებით Meta-მ შეიძლება ჩვეულებრივ მოვლენად აქციოს ის ტექნოლოგია, რომელიც კონფიდენციალურობის პრობლემების გამო ადრე თვითონვე მიატოვა.

"ტექნოლოგიის ეკოსისტემაში შეტანით ნორმებსა და სტანდარტებს ქმნი", — ამბობს ჯოზეფ ჯერომი, Meta Reality Labs-ის ყოფილი თანამშრომელი, რომელიც კომპანიის AR და VR პროდუქტების კონფიდენციალურობაზე მუშაობდა — "არ ვიცი, როგორ შეუძლია Meta-ს ამგვარი ტექნოლოგიის პასუხისმგებლობით გამოყენება".

"ნებისმიერი სენსაციური რეპორტაჟისგან დამოუკიდებლად, ფაქტები მარტივია: ადრე უკვე ვთქვით, რომ ამ ტიპის ფუნქციებს ვიკვლევთ, და ის, რასაც ხედავთ, სწორედ ამ კვლევის მტკიცებულებაა", — განაცხადა Meta-ს წარმომადგენელმა რაიან დენიელსმა — "მომხმარებლებისთვის არაფერი გამოგვიშვია და საბოლოო გადაწყვეტილება არ მიგვიღია იმასთან დაკავშირებით, გაკეთდება თუ არა რაიმე საერთოდ. თუ რაიმეს გამოშვებას გადავწყვეტთ, გააზრებულად და სრული გამჭვირვალობით მოვიქცევით. ერთ გადაწყვეტილებაში შეგვიძლია დარწმუნებული ვიყოთ, ჩვენ არ ვქმნით სახეების ცენტრალურ მონაცემთა ბაზას".

WIRED-ის კოდის ანალიზი ცხადყოფს, რომ NameTag-ის სისტემა ამჟამად შექმნილია სახის ანაბეჭდების Meta-ს სერვერებიდან ამოსაღებად და მომხმარებელთა მოწყობილობებზე შესანახად.

Meta-ს წინა სისტემა, რომელიც Facebook-მა 2010 წელს გამოაცხადა, ფოტოებს აანალიზებდა და მასზე გამოჩენილ ადამიანებს მონიშვნას სთავაზობდა. ის სწრაფად გაფართოვდა მილიარდზე მეტ მომხმარებელზე და ერთ-ერთი უდიდესი სამომხმარებლო სახის ამოცნობის სისტემა გახდა.

ტექნოლოგია თითქმის მაშინვე მოექცა მკაცრი ყურადღების ქვეშ. ევროპელმა რეგულატორებმა და აშშ-ის კონფიდენციალურობის დამცველებმა მისი კანონიერება 2011 წლიდანვე დააყენეს კითხვის ნიშნის ქვეშ და გამოთქვეს შეშფოთება, ჰქონდათ თუ არა მომხმარებლებს გაცნობიერებული თანხმობა ბიომეტრიული მონაცემების შექმნაზე. 2019 წელს Meta-მ Federal Trade Commission-სა და Justice Department-ს $5 მილიარდი გადაუხადა კონფიდენციალურობის უფრო ფართო სასამართლო დავის მორიგებაში, რომელიც სახის ამოცნობის საკითხსაც მოიცავდა.

2021 წლის ნოემბერში, საზოგადოებაში სახის ამოცნობის როლთან დაკავშირებული მზარდი შეშფოთების გამო, Meta-მ გამოაცხადა სისტემის გათიშვა და შეგროვებული სახის ანაბეჭდების წაშლა. თუმცა ეს გადაწყვეტილება კომპანიის შიგნით არასოდეს აღქმულა საბოლოო უკანდახევად, ამბობს ჯერომი, რომელიც Reality Labs-ს 2021 წლის შუა პერიოდში შეუერთდა. "ყოველთვის იყო ეს დაძაბულობა, კარგი, როდის დავუბრუნდებით სახის ამოცნობას?"

2025 წელს, The Times-ის მიერ ნანახი შიდა დოკუმენტების თანახმად, Meta ამ ფუნქციის ჯერ მხედველობადაქვეითებულთა კონფერენციაზე წარდგენას გეგმავდა და შემდეგ ყველასთვის გახსნას. ეს ვერ მოხდა. თუმცა ტექნოლოგიაზე რეალური მოთხოვნა არსებობს: დამხმარე მოწყობილობები უკვე საშუალებას აძლევს მხედველობადაქვეითებულებს, წინასწარ დამახსოვრებული ადამიანები ამოიცნონ, ხოლო Cornell Tech-ისა და Facebook-ის მკვლევრების 2018 წლის კვლევამ დაადგინა, რომ გამოკითხულთათვის ადამიანების ამოცნობა ყოველდღიური ცხოვრების მნიშვნელოვანი საჭიროება იყო.

Meta-მ არ უპასუხა კითხვებს იმასთან დაკავშირებით, რომელი მომხმარებლები იქნებიან NameTag-ით ამოცნობადი; აპირებს თუ არა სისტემის მიერ გენერირებული ფოტოების, სახის ანაბეჭდების ან სხვა მონაცემების სერვერებზე გადაგზავნას; ან აქვს თუ არა კომპანიას გეგმა, მომხმარებლებს სისტემაში ჩართების შესაძლებლობა მისცეს სისტემიდან გამოერთების ნაცვლად. EssilorLuxottica-მ, რომელიც Meta-სთან ერთად Ray-Ban-ისა და Oakley-ის ჭკვიან სათვალეებს აწარმოებს, კომენტარის გაკეთებაზე უარი თქვა.

ვუდრო ჰარცოგი, Boston University-ის კონფიდენციალურობის სამართლის პროფესორი, ამბობს, რომ ისეთი დაცვაც კი, როგორიცაა სისტემაში ჩართვისთვის მომხმარებლის თანხმობა, სუსტი იქნება. თანხმობა, მისი თქმით, ხშირად სამსახურს, შეღავათს ან სერვისზე წვდომას უკავშირდება. კონფიდენციალურობის პირად არჩევანად წარმოდგენა ბიზნესისთვის სასარგებლოა — ეს მონაცემების შეგროვებაზე არავითარ მნიშვნელოვან შეზღუდვას არ აწესებს, კომპანიებს კი საშუალებას აძლევს განაცხადონ, რომ მომხმარებლები სიტუაციას აკონტროლებენ.

"ვიცით, რომ რაც უფრო მეტად ინერგება ეს სისტემები, მით უფრო მეტად ეჩვევიან ადამიანები", — ამბობს ჰარცოგი — "და რაც უფრო ჩვეულებრივად და რუტინულად აღვიქვამთ მათ, მით უფრო მეტად იწყებენ ადამიანები მორალური ორიენტირების ძიებას — სასურველია თუ კარგია სახის სკანირება... ეს უბრალოდ ადამიანის ფსიქოლოგიაა".