კომპანია Anthropic-ი, რომელმაც შექმნა მოდელი Claude, სხვა ლაბორატორიებს მოუწოდებს შეაჩერონ მუშაობა ხელოვნური ინტელექტის სისტემების განვითარებაზე, მათზე კონტროლის დაკარგვის საფრთხის გამო. ეს ნათქვამია კომპანიის ბლოგზე გამოქვეყნებულ ტექსტში.
Anthropic-ის შეფასებით, ხელოვნური ინტელექტის სისტემები ისე სწრაფად ვითარდება, რომ ისინი მალე შეიძენს საკუთარი თავის გაუმჯობესების უნარს ადამიანის მონაწილეობის გარეშე. ამ პროცესს უწოდებენ “რეკურსიულ თვით-სრულყოფას”. თუკი დამუშავებაში ტექნიკური ტენდენციები შენარჩუნდება, მაშინ ხელოვნური ინტელექტის სისტემები ამ დონეს მიაღწევს უფრო მალე, ვიდრე საამისოდ მზად იქნება ინსტიტუციათა უმრავლესობა – აცხადებენ Anthropic-ის თანადამაარსებელი, ჯეკ კლარკი და Anthropic Institute-ის ხელმძღვანელი, მარინა ფავარო.
ხელოვნური ინტელექტის განვითარების შეჩერებისკენ მოწოდებები უწინაც იყო. კერძოდ, 2023 წლის მარტში მილიარდერი ილონ მასკი გამოვიდა გაფრთხილებით “კაცობრიობისთვის სერიოზული საფრთხეების” შესახებ, და მოწოდებით ხელოვნური ინტელექტის ახალი სისტემების სწავლების შეჩერებისკენ. თუმცა ერთ თვეში მან თავად გამოაცხადა საკუთარი ჩეტ-ბოტის შექმნის განზრახვა, ხელოვნური ინტელექტის საფუძველზე.
2026 წლის მაისში გავრცელდა რომის პაპის, ლეონ XIV-ის ენციკლიკა, რომელიც მოიცავდა გაფრთხილებას ხელოვნური ინტელექტის საფრთხეების შესახებ. პაპი გამოვიდა მოწოდებით შენელდეს და მკაცრად გაკონტროლდეს ხელოვნური ინტელექტის სისტემები, რადგან ისინი, მათ შორის, ხელს უწყობს მათზე დამოკიდებულების განვითარებას და აძლიერებს უთანასწორობას.
კომპანია Anthropic-ი 2021 წელს დააარსეს OpenAI-ის ყოფილმა თანამშრომლებმა, დარიო ამოდეის ხელმძღვანელობით. ბოლო წლებში კომპანია გახდა გენერირებული ხელოვნური ინტელექტის ბაზრის ერთ-ერთი ლიდერი. განსაკუთრებული პოპულარობით სარგებლობს მისი პროგრამირების ინსტრუმენტები Claude Code.
ექსპერტის შეფასება:
სტატიის მთავარი აზრი ისაა, რომ კომპანია Anthropic (Claude-ის შემქმნელი) აფრთხილებს საზოგადოებას: ხელოვნური ინტელექტი შეიძლება იმდენად სწრაფად განვითარდეს, რომ ადამიანურმა ინსტიტუტებმა ვეღარ მოასწრონ მისი კონტროლი. ისინი განსაკუთრებით საუბრობენ ე.წ. „რეკურსიულ თვითგაუმჯობესებაზე“ — როდესაც AI თავად იწყებს საკუთარი შესაძლებლობების გაუმჯობესებას.
საფრთხე რეალურია, მაგრამ არა ხვალინდელი დღე.
AI მართლაც სწრაფად ვითარდება. ბოლო რამდენიმე წელიწადში სისტემების შესაძლებლობები მნიშვნელოვნად გაიზარდა. ამიტომ უსაფრთხოების საკითხებზე მსჯელობა სერიოზული თემაა.
- ინტერესთა კონფლიქტის ელემენტიც არსებობს.
როდესაც AI-ის განვითარების შენელებაზე საუბრობს კომპანია, რომელიც თავად AI-ს ქმნის, ბუნებრივია ჩნდება კითხვა: ეს მხოლოდ უსაფრთხოების გამოა თუ კონკურენციის შეზღუდვის სურვილიც არის? ეს კითხვა ბევრ ანალიტიკოსს უჩნდება. - სრული შეჩერება პრაქტიკულად შეუძლებელია.
თუ ერთი ქვეყანა ან კომპანია შეჩერდება, სხვები გააგრძელებენ. ამიტომ უფრო რეალისტური ჩანს რეგულაცია, უსაფრთხოების სტანდარტები და საერთაშორისო კონტროლი, ვიდრე განვითარების სრული გაჩერება. - ისტორიაში მსგავსი შემთხვევები უკვე ყოფილა.
ბირთვული ენერგიის, გენური ინჟინერიისა და სხვა ძლიერი ტექნოლოგიების შემთხვევაში მეცნიერებიც ითხოვდნენ შეზღუდვებსა და კონტროლს, სანამ ტექნოლოგია ფართოდ გავრცელდებოდა.
დასკვნა:
პანიკის საფუძველს ამ სტატიაში ვერ ვხედავ, მაგრამ გაფრთხილების იგნორირებაც არასწორი იქნება. ყველაზე გონივრული მიდგომა დღეს არის არა AI-ის აკრძალვა, არამედ მისი განვითარების პარალელურად უსაფრთხოების წესების, გამჭვირვალობისა და კონტროლის მექანიზმების გაძლიერება.
