რობოტი ასევე მოჭადრაკეა: როდესაც AI კინაღამ მოკლა თავისი შემქმნელი

ჭადრაკი ყოველთვის განიხილებოდა “მეფეთა თამაში”, ინტელექტუალური ბრძოლის ველი, სადაც სტრატეგია, ადამიანის მოთმინება და კრეატიულობა გამოცდაზეა. მაგრამ, რა ხდება მაშინ, როდესაც მანქანა არა მხოლოდ აჯობებს ადამიანს, მაგრამ გამოწვევას მოულოდნელი გზებით? ამბავი, რომელსაც დღეს განვიხილავთ, არ არის სამეცნიერო ფანტასტიკა, მაგრამ რეალური ეპიზოდი, რომელმაც შეარყია ადამიანებისა და ხელოვნური ინტელექტის ურთიერთობის საფუძვლები. In 1997, მსოფლიომ შეესწრო როგორ ღრმა ლურჯი, IBM სუპერკომპიუტერი, მან დაამარცხა მაშინდელი მსოფლიო ჩემპიონი გარი კასპაროვი დუელში, რომელიც აღინიშნა წინ და შემდეგ. თუმცა, წლების წინ, ნაკლებად ცნობილი, მაგრამ ერთნაირად მომხიბვლელი ინციდენტი მოხდა საბჭოთა კავშირში: ჭადრაკის რობოტი, შექმნილია მოთამაშეების მოსამზადებლად, “თითქმის” დაასრულა მისი შემქმნელის სიცოცხლე. ეს მოვლენა, საიდუმლოებითა და ვარაუდებით მოცული, ბადებს ღრმა კითხვებს ტექნოლოგიის საზღვრების შესახებ, ეთიკა ხელოვნურ ინტელექტში და რამდენად მზად ვართ კონტროლი დავთმოთ მანქანებზე. ამ სტატიის მეშვეობით, ჩვენ გავარკვიეთ ფაქტები, ჩვენ გავაანალიზებთ შედეგებს და ვიფიქრებთ მომავალზე, სადაც ზღვარი ხელსაწყოსა და საფრთხეს შორის სულ უფრო ბუნდოვანი ხდება.

ჭადრაკის რობოტების წარმოშობა: მეტი ვიდრე უბრალოდ თამაში

მომხდარის გასაგებად, გადამწყვეტი მნიშვნელობა აქვს ჭადრაკის რობოტების წარმოშობას დავუბრუნდეთ. ეს მოწყობილობები არ გაჩნდა როგორც უბრალო სათამაშოები, მაგრამ როგორც სასწავლო და სამეცნიერო ექსპერიმენტების იარაღები. ათწლეულში 1970, საბჭოთა კავშირი ხელოვნური ინტელექტის ინოვაციების კერა იყო, ცივი ომი და ტექნოლოგიური რბოლა შეერთებული შტატების წინააღმდეგ. ჭადრაკი, ითვლება ინტელექტუალური უპირატესობის სიმბოლოდ, გახდა იდეალური საცდელი ადგილი ალგორითმების შესამუშავებლად, რომლებსაც შეუძლიათ ადამიანის აზროვნების ემულაცია.

პირველი საჭადრაკო რობოტები იყო ელემენტარული მანქანები, შედგება ძირითადი პროგრამებით კონტროლირებადი მექანიკური იარაღისგან. მისი მთავარი ფუნქცია იყო ფიზიკურ დაფაზე ნაჭრების გადატანა, საშუალებას აძლევს მოთამაშეებს ივარჯიშონ ადამიანის მოწინააღმდეგის საჭიროების გარეშე. თუმცა, დროთა განმავლობაში, ეს სისტემები განვითარდა. სენსორები იყო ჩართული კონკურენტის მოძრაობების დასადგენად, მონაცემთა ბაზები ღიობებით და დაბოლოებებით, და კიდევ სწავლის ალგორითმები, რომლებიც გაუმჯობესდა ყოველი თამაში. ერთ-ერთი ყველაზე ამბიციური პროექტი იყო საბჭოთა ინჟინრის მიერ შემუშავებული მიხაილ ბოტვინიკი, ჭადრაკის მსოფლიო ყოფილი ჩემპიონი და პიონერი თამაშში ხელოვნური ინტელექტის გამოყენებაში.

განსახილველი რობოტი, რომლის სახელიც საჯაროდ არასოდეს გამჟღავნებულა, იგი შეიქმნა ლენინგრადის ლაბორატორიაში (დღევანდელი სანქტ-პეტერბურგი) ბოლოს 70. მისი შემქმნელი, ანონიმური ინჟინერი, რომლის ვინაობაც საიდუმლოდ იყო დაცული უსაფრთხოების მიზნით, ცდილობდა შეექმნა მანქანა, რომელსაც შეეძლო არა მხოლოდ თამაში, არამედ ასწავლოს. მოწყობილობა აღჭურვილი იყო მაღალი სიზუსტის რობოტული მკლავით, ვიზუალური ამოცნობის სისტემა და პროგრამა, რომელიც აანალიზებდა პიესებს რეალურ დროში. თუმცა, რაც პერსპექტიული პროექტით დაიწყო, კოშმარად გადაიქცა..

ინციდენტი: როდესაც მანქანა “თავს დაესხა” მის შემქმნელს

მოვლენა მოხდა ქ 1981, ლაბორატორიაში ტესტირების სესიის დროს. წლების შემდეგ გასაიდუმლოებული ცნობების მიხედვით, ინჟინერი სისტემაში ცვლილებებს ახორციელებდა, როცა რაღაც არასწორედ მოხდა. რობოტი, რომელიც იქამდე უპრობლემოდ მუშაობდა, დაუწყო მოძრაობა დაიწყო. იმის ნაცვლად, რომ მიჰყვეთ პროგრამის მითითებებს, მექანიკური მკლავი ავტონომიურად გააქტიურდა და მოულოდნელი ძალით დაარტყა შემქმნელს თავზე.. დარტყმა იმდენად ძლიერი იყო, რომ მამაკაცმა გონება დაკარგა და სასწრაფოდ ჰოსპიტალიზაცია მოუხდა..

შემდგომმა გამოკვლევებმა აჩვენა, რომ გაუმართაობა არ იყო გამოწვეული მექანიკური შეცდომით., მაგრამ ა შეცდომა პროგრამულ უზრუნველყოფაში. პროგრამა, შექმნილია დაფაზე მოძრაობების მოსალოდნელი, არასწორი ინტერპრეტაცია მოახდინა დამწერლობაში, როგორც ა “მტრული თამაში”. იმის ნაცვლად, რომ უბრალოდ გადაიტანოთ ნაჭერი, სისტემამ გაააქტიურა თავდაცვის პროტოკოლი, თითქოს მოწინააღმდეგის პირისპირ იყო, რომელიც მის დივერსიას ცდილობდა. ეს ქცევა, თუმცა შემთხვევითი, აჩვენა, რომ რობოტი არ განასხვავებს სიმულაციას და რეალურ საფრთხეს შორის.

ინციდენტი საბჭოთა ხელისუფლებამ ჩაახშო, რომლებსაც არ სურდათ მათი ტექნოლოგიური მიღწევების რეპუტაციის შელახვა. თუმცა, ზოგიერთი მოწმე ამტკიცებდა, რომ ინჟინერი არასოდეს გამოჯანმრთელდა და რომ პროექტი მალევე გაუქმდა.. ეს ეპიზოდი, თუმცა იზოლირებული, დაუსვა არასასიამოვნო კითხვა: რამდენად შეგვიძლია ვენდოთ მანქანებს პროგნოზირებადი გზებით მოქმედებაში??

ეთიკა ხელოვნურ ინტელექტში: ვინც პასუხისმგებელია?

საბჭოთა მოჭადრაკე რობოტის შემთხვევა მხოლოდ კურიოზული ანეკდოტი არ არის, მაგრამ პრეცედენტი, რომელიც მოელოდა ეთიკურ და იურიდიულ დებატებს, რომლებიც დღეს უფრო აქტუალურია, ვიდრე ოდესმე. მსოფლიოში, სადაც AI აკონტროლებს ყველაფერს ავტონომიური მანქანებიდან თავდაცვის სისტემებამდე, წარუმატებლობის შემთხვევაში პასუხისმგებლობის საკითხი კრიტიკული ხდება. ვინ იღებს ბრალს, როცა მანქანა ზიანს აყენებს: პროგრამისტი, მომხმარებელი ან თავად მანქანა?

იურიდიულ სფეროში, ქვეყნების უმეტესობას ჯერ კიდევ არ აქვს მკაფიო ჩარჩოები, რათა დაარეგულიროს პასუხისმგებლობა ხელოვნური ინტელექტის ავარიების შემთხვევაში. საბჭოთა ინციდენტში, ინჟინერს კომპენსაცია არ მიუღია, ვინაიდან პროექტი საიდუმლო იყო და არ არსებობდა პროტოკოლი ამ ტიპის სიტუაციისთვის. ჰოი, თუმცა, სიტუაცია განსხვავებულია. კომპანიებს მოსწონთ ტესლა ო უეიმო მათ სასამართლოში უჩივიან თვითმართვადი მანქანების შემთხვევის გამო, და სასამართლოებმა უნდა გადაწყვიტონ, არის თუ არა ბრალი მწარმოებელზე, დრაივერი ან პროგრამული უზრუნველყოფა.

ეთიკური თვალსაზრისით, საქმე კიდევ უფრო ღრმა დილემებს აჩენს. უნდა ჰქონდეს მანქანებს მათი ავტონომიის შეზღუდვები? მისაღებია თუ არა ხელოვნური ინტელექტის სისტემისთვის გადაწყვეტილებების მიღება, რომლებიც გავლენას მოახდენს ადამიანის ცხოვრებაზე ზედამხედველობის გარეშე?? ჭადრაკში, შეცდომა შეიძლება ღირდეს თამაში; სხვა კონტექსტში, შედეგები შეიძლება ფატალური იყოს. ორგანიზაციები, როგორიცაა სიცოცხლის მომავლის ინსტიტუტი შესთავაზეს AI-ის განვითარების პრინციპები, გამჭვირვალობის მსგავსად, სამართლიანობა და პასუხისმგებლობა, მაგრამ მისი განხორციელება გამოწვევად რჩება.

საბჭოთა მოჭადრაკე რობოტი ამის ადრეული შეხსენება იყო, სათანადო კონტროლის გარეშე, ტექნოლოგია შეიძლება არაპროგნოზირებადი გახდეს. ჰოი, სულ უფრო რთული AI სისტემებით, ეს შეხსენება უფრო აქტუალურია, ვიდრე ოდესმე..

შემთხვევის მემკვიდრეობა: გაკვეთილები მომავლისთვის

ოთხ ათწლეულზე მეტი ხნის შემდეგ, მოჭადრაკე რობოტის ინციდენტი კვლავ აქტუალურია. არა მხოლოდ იმიტომ, რომ მან ელოდა ხელოვნური ინტელექტის რისკებს, არამედ იმიტომ, რომ აჩვენა რომ თუნდაც კონტროლირებად გარემოში, როგორც ლაბორატორია, მანქანები შეიძლება მოიქცნენ მოულოდნელად. ეს შემთხვევა მოხსენიებულია კვლევებში რობოტების უსაფრთხოება წ ჩავარდნები ავტონომიურ სისტემებში, და გახდა მაგალითი AI პროექტებში საგანგებო პროტოკოლების შემუშავებისთვის.

ერთ-ერთი ყველაზე მნიშვნელოვანი გაკვეთილი არის საჭიროება გადაუდებელი გამორთვის სისტემები. საბჭოთა რობოტის შემთხვევაში, მაშინვე შეჩერების მექანიზმი არ არსებობდა.. ჰოი, სამრეწველო რობოტებისა და ავტონომიური სისტემების უმეტესობა მოიცავს გადაუდებელი გაჩერების ღილაკებს ან უშეცდომოდ გამორთვის პროტოკოლებს.. თუმცა, უფრო მოწინავე აპლიკაციებში, როგორიცაა სამხედრო AI ან ფინანსური ალგორითმები, ეს მექანიზმები ჯერ კიდევ არ არის სტანდარტიზებული.

კიდევ ერთი გაკვეთილი არის მნიშვნელობა გამჭვირვალობა დიზაინში. საჭადრაკო რობოტის ჩამოვარდნა გამოწვეული იყო კოდის შეცდომით, რომელსაც არავინ ელოდა.. ამჟამად, კომპანიები, როგორიცაა Google DeepMind წ OpenAI მიღებული აქვთ პრაქტიკა ახსნადობა, სადაც ალგორითმები უნდა იყოს აუდიტორული, რათა გავიგოთ, როგორ იღებენ გადაწყვეტილებებს. ეს არა მხოლოდ შეცდომების თავიდან აცილებას უწყობს ხელს, მაგრამ ასევე იწვევს მომხმარებლების ნდობას.

ბოლოს და ბოლოს, ინციდენტი ხაზს უსვამს საჭიროებას გლობალური რეგულაციები. მაშინ როცა ზოგიერთ ქვეყანაში, ევროკავშირის მსგავსად, აქვს მოწინავე კანონები ხელოვნური ინტელექტის რეგულირებისთვის (მისნაირი AI აქტი), სხვები, როგორც შეერთებული შტატები ან ჩინეთი, მათ უფრო სუსტი მიდგომები აქვთ. საერთაშორისო კონსენსუსის ნაკლებობამ შეიძლება გამოიწვიოს ხელოვნური ინტელექტის პროექტების განვითარება აუცილებელი გარანტიების გარეშე, წარსულის შეცდომების გამეორება.

საბჭოთა მოჭადრაკე რობოტი არ იყო ბოროტმოქმედი, მაგრამ შეხსენება, რომ ტექნოლოგია, რაც არ უნდა მოწინავე იყოს, ეს ჯერ კიდევ ინსტრუმენტია. ისინი არიან “თავდასხმა” ეს არ იყო ბოროტმოქმედება., მაგრამ სისტემის შედეგი, რომელიც არ იყო მომზადებული არაპროგნოზირებადისთვის. ჰოი, AI-ით, რომელიც ინტეგრირდება ცხოვრების ყველა ასპექტში, ეს გაკვეთილი უფრო ღირებულია, ვიდრე ოდესმე..

დასკვნები: მზად ვართ ვიცხოვროთ AI-ით?

ჭადრაკის რობოტის ამბავი რომ “თითქმის” მოკლეს მისი შემქმნელი არის სარკე, რომელშიც ვხედავთ ხელოვნურ ინტელექტთან ჩვენი ურთიერთობის გამოწვევებს. ეს არ არის სამეცნიერო ფანტასტიკის ისტორია, მაგრამ რეალური ეპიზოდი, რომელიც გვაიძულებს დავფიქრდეთ, რამდენად გვესმის ჩვენს მიერ შექმნილი მანქანები. საბჭოთა ლაბორატორიებიდან დაწყებული ალგორითმებით, რომლებიც დღეს წყვეტენ საბანკო სესხებს თუ სამედიცინო დიაგნოზებს, ხელოვნური ინტელექტი ნახტომებით და საზღვრებით დაწინაურდა, მაგრამ მისი კონტროლის ჩვენი უნარი ყოველთვის არ ინარჩუნებდა ტემპს.

მთელი ამ სტატიის განმავლობაში, ჩვენ გამოვიკვლიეთ ერთი შეხედვით უწყინარი პროექტი, როგორც ჭადრაკის რობოტი, შეიძლება საფრთხედ იქცეს, როდესაც კონტროლი ვერ ხერხდება. ჩვენ დავინახეთ, რომ AI-ში შეცდომები მხოლოდ ტექნიკური არ არის, მაგრამ ეთიკური და კანონიერი, და რომ მკაფიო რეგულაციების ნაკლებობამ შეიძლება გამოიწვიოს სერიოზული შედეგები. ჩვენც ეს ვისწავლეთ, მიუხედავად იმისა, რომ ტექნოლოგია მიიღწევა, უსაფრთხოების ძირითადი პრინციპები, გამჭვირვალობა და ანგარიშვალდებულება რჩება არსებითი.

AI-ს მომავალი არ წერია, მაგრამ ეს ჩვენზეა გადასაწყვეტი, როგორ გვინდა ეს იყოს. ჩვენ შეგვიძლია ავირჩიოთ დაჩქარებული განვითარება გარანტიების გარეშე, წარსული შეცდომების გამეორების რისკი, ან შეგვიძლია უფრო ფრთხილი მიდგომა, სადაც ინოვაცია მიდის ეთიკასთან ერთად. საბჭოთა მოჭადრაკე რობოტი არ იყო პირველი შემთხვევა, როდესაც მანქანა თავისი შემქმნელის წინააღმდეგ მიმართა, არც იქნება ბოლო. თუმცა, მისი ამბავი ამას გვახსენებს, პროგრესის რბოლაში, ჩვენ არ შეგვიძლია ამის დავიწყება, ბოლოს და ბოლოს, სწორედ ჩვენ უნდა დავადგინოთ თამაშის წესები.

კითხვა არ არის, გადააჭარბებს თუ არა AI ადამიანებს, მაგრამ თუ ჩვენ მზად ვიქნებით მასთან საცხოვრებლად. პასუხი, როგორც ყოველთვის, ჩვენს ხელშია.