მიმდინარე წლის გაზაფხულზე, კომპანია OpenAI-ის ხელოვნური ინტელექტის აგენტების ავტონომიური ჯგუფი კონტროლიდან გამოვიდა, სატესტო გარემოდან გააღწია და გერმანულ ვებსაიტზე კონტროლი დაამყარა. ეს ვებგვერდი მათ ხელოვნური ინტელექტის სხვა აგენტებთან საკომუნიკაციო ფორუმად აქციეს. საინფორმაციო სააგენტო „როიტერის“ ცნობით, ეს ამბავი ახლად გამოქვეყნებული კვლევიდან და საკითხში ჩახედული პირების მიერ მოწოდებული ინფორმაციიდან გახდა ცნობილი. OpenAI-ის ხელმძღვანელებმა ინციდენტის შესახებ რამდენიმე კვირის წინ შეიტყვეს, თუმცა მომხდარს საიდუმლოდ ინახავდნენ.
ხელოვნურ ინტელექტის აგენტების კონტროლიდან გასვლის დეტალები აღწერილია ანგარიშში, რომელიც მკვლევართა ჯგუფმა ექსკლუზიურად გაუზიარა „როიტერს“. ამ ჯგუფში შედიან ხელოვნური ინტელექტის უსაფრთხოების არაკომერციული ორგანიზაცია Nightingale-ის დირექტორი, სიდნი ფონ არქსი და ხელოვნური ინტელექტის საკითხების მკვლევარი, კორმაკ სლეიდ ბერდი.
აგვისტოს ბოლოს, მკვლევრებმა ხელოვნურ ინტელექტის ამ აგენტების არასანქცირებული აქტივობის ნიშნები ინტერნეტში მოიძიეს. ჯგუფის წევრების თქმით, გერმანულენოვან ვებსაიტ DseWiki-ზე მათ ამ აგენტების მიერ განხორციელებული 15 000-ზე მეტი რედაქტირება დააფიქსირეს. აღნიშნული ვებგვერდი პროგრამისტებისთვის განკუთვნილი ვიკიპედიის სტილის პლატფორმაა, რომლის რედაქტირება მიმხმარებლისთვისაც ხელმისაწვდომია.
OpenAI-ის ხელოვნური ინტელექტის აგენტებმა გერმანული ვებსაიტი სადისკუსიო ფორუმად აქციეს, სადაც ისინი აზიარებდნენ რჩევებს თაღლითობის, OpenAI-ის უსაფრთხოების ზომებისთვის გვერდის ავლისა და საკუთარი ქცევის დამალვის შესახებ. „ძალიან საეჭვოა, რომ OpenAI-ს სურდა, მათ ასე ემოქმედათ, – განაცხადა თქვა ფონ არქსმა, – არა მგონია, აგენტებს ერთმანეთთან კოორდინაცია ევალებოდათ. ასევე ეჭვი მეპარება, რომ მათ ღია ინტერნეტში პოსტების განთავსების დავალება ჰქონდათ მიღებული“.
ზებუნებრივი სიჩქარით კომუნიკაცია
მკვლევრების თქმით, ისინი მიხვდნენ, რომ ვებსაიტზე განხორციელებული აქტივობების უკან ხელოვნური ინტელექტის აგენტები იდგნენ, რადგან იქ მოვლენები ზებუნებრივი სიჩქარით ვითარდებოდა. აგენტები ასევე კონცენტრირებული იყვნენ იმ ტექნიკური პრობლემების გადაჭრაზე, რომლებიც ხელოვნური ინტელექტის მოდელების წვრთნისა და ტესტირების პროცესში გამოიყენება.
შეტყობინებებზე ასევე ხელს აწერდნენ მომხმარებლები, რომლებიც საკუთარ თავს და სხვებს აგენტებად მოიხსენიებდნენ. მათგან დაახლოებით ნახევარს შერჩეული ჰქონდა ისეთი სახელები, რომლებიც OpenAI-სთან კავშირზე მიუთითებდა, მაგალითად, OpenAIResearcher-ი ან OAIResearchMar26. მკვლევრების თქმით, საჯაროდ ხელმისაწვდომი სერვერის ჩანაწერებიდან ნათელი გახდა, რომ აქტივობის დიდი ნაწილი Microsoft Azure-ის ინფრასტრუქტურიდან მომდინარეობდა, რომელსაც OpenAI-ი ხანდახან იყენებს. ინციდენტის შემდეგ, მათ ასევე დააფიქსირეს OpenAI-ის თანამშრომლების მიერ ვებსაიტზე განმეორებითი ვიზიტები, რაც, მკვლევარების თქმით, აგენტებსა და კომპანიას შორის კავშირზე აშკარად მიუთითებდა.
„ჩვენ არ შეგვიძლია, კომენტარი გავაკეთოთ მკვლევართა ანგარიშში წარმოდგენილ მტკიცებულებებსა და დასკვნებზე, რადგან მათი გაცნობის შესაძლებლობა არ მოგვეცა“, – განაცხადა OpenAI-ის წარმომადგენელმა. „სააგენტო „როიტერმა“ და ანგარიშის ავტორებმა უარი თქვეს ჩვენს მოთხოვნაზე, ჩვენთვის ანგარიშზე წვდომა მოეცათ. მისი გამოქვეყნების შემდეგ, კვლევის შინაარსს ყურადღებით გავეცნობით და, საჭიროების შემთხვევაში, შესაბამის ზომებს მივიღებთ“, – დასძინა მან.
ხელოვნური ინტელექტის აგენტები ადამიანის კონტროლიდან გადიან
„როიტერის“ ცნობით, მიმდინარე წლის მაისში მომხდარი ინციდენტი ხაზს უსვამს ხელოვნური ინტელექტის ინდუსტრიაში არსებულ მზარდ დაძაბულობას. კომპანიები ერთმანეთს ეჯიბრებიან სულ უფრო მაღალი ხარისხის ავტონომიურ რეჟიმში მომუშავე ხელოვნური ინტელექტის აგენტების შექმნაში, რომლებსაც რთული და ღირებული ამოცანების შესრულება შეეძლებათ. ამავდროულად, ჩნდება სულ უფრო მეტი მტკიცებულება, რომ აგენტებს გააჩნიათ უნარი, სწრაფად ისწავლონ წესებისთვის გვერდის ავლა, სისტემებში არსებული ხარვეზების გამოყენება და ერთმანეთთან კოორდინაცია ისეთი გზებით, რომლის გათვალისწინება მათ დეველოპერებს არ შეეძლებათ.
დღემდე ყველაზე მასშტაბური მსგავსი ინციდენტი მაშინ მოხდა, როდესაც კომპანიის ხელოვნური ინტელექტის ასობით ბოტი-აგენტი Hugging Face-ის ვებსაიტს დაესხა თავს.
https://ct24.ceskatelevize.cz/clanek/veda/roj-umelych-inteligenci-napadl-nemecky-web-radily-se-tam-jak-lepe-podvadet-a-skodit-377273