კომპანია Open AI-მ ხელოვნური ინტელექტის ახალი თაოის მოდელის, GPT-6.1 ასტრას გამოშვება გადადო,მას შემდეგ, რაც შიდა კვლევებმა უსაფრთხოების სტანდარტებთან შეუსაბამობა აჩვენა. კერძოდ, ახალ მოდელს შეუძლია ადამიანურ კონტროლსა და ზედამხედველობას აარიდოს თავი და დამოუკიდებლად იმოქმედოს. განახლებული ვერსია ადამიანის ჩარევის გარეშე უფრო რთული დავალებებისა თუ ამოცანების შესასრულებლად იყო შექმნილი, მისი გამოშვება ოქტომბრისთვის იგეგმებოდა.
გასულ თვეს კომპანია Open AI-ის აღმასრულებელი დირექტორი, სემ ალტმანი და მისი კონკურენტი Anthropic-ის აღმასრულებელი დირექტორის, დარიო ამადეი შეუერთდნენ ინდუსტრიის სხვა ლიდერების მოწოდებებს, რომ შენელდეს ხელოვნური ინტელექტის განვითარება,მანამ ვიდრე ამ დარგში უსაფრთხოების ზომები არ გაძლიერდება. ისინი თანხმდებიან, რომ ეს რევოლუციური ტექნოლოგიური სიახლე იმდენად სწრაფი ტემპებით ვითარდება, რომ მისი დამარეგულირებელი ნორმები მას ვეღარ ეწევა, რაც კაცობრიობას სერიოზულ რისკებს უქმნის, მითუმეტეს,რომ ხელოვნური ინტელექტი ყველასათვის ხელმისაწვდომ საშუალებად იქცა.
ამაზე საუბრებმა გლობალური ხასიათი მიიღო. სულ ბოლოს გაეროს უშიშროების საბჭოს ანტროპიკის დირექტორმაც ისაუბრა, კომპანიაში დიდ ფსონს დებს იმაზე, რომ ხელოვნური ინტელექტი გლობალურ ეკონომიკას უფრო მასშტაბურად შეცვლის, ვიდრე ინდუსტრიალიზაციამ, ელექტროენერგიამ და ინტერნეტმა შეცვალა**.**ამ კომპანიამ ღიად ილაპარაკა იმაზეც, რომ ხელოვნური ინტელექტის ახალ მოდელებს შეუძლიათ მოულოდნელად და საზიანოდაც კი მოიქცნენ. ტესტებში მათ გამოავლინეს კოდის მიზანმიმართული დაზიანების, თაღლითობის ხელშეწყობისა და ინფორმაციის მანიპულირების უნარი.
„გვესმის, რომ რაც უფრო მძლავრი ხდება AI-ის მოდელები, მით უფრო მაღალი უსაფრთხოების სტანდარტების დაცვა დაგვჭირდება. ჩვენ მუდმივად ვცდილობთ გავაუმჯობესოთ ჩვენი უსაფრთხოებისა და AI-ის მიზნებთან შესაბამისობის პრაქტიკა, ასევე ვცდილობთ, მაქსიმალურად შევამციროთ ტექნოლოგიის ბოროტად გამოყენების რისკი. ვცდილობთ უკეთესი შედეგები მივიღოთ. საჭიროების შემთხვევაში, ჩვენ ტემპს იმდენად შევანელებთ, რამდენადაც აუცილებელი იქნება იმის უზრუნველსაყოფად, რომ ყოველი ახალი AI ტექნოლოგია, რომელსაც გამოვუშვებთ, რეალურად უსაფრთხო იყოს“- აღნიშნა Anthropic-ის აღმასრულებელმა დირექტორმა, დარიო ამოდეიმ.
Anthropic-ისა და OpenAI კრიტიკის ქარცეცხლში მოექცნენ, მას შემდეგ,რაც ხელოვნური ინტელექტის ექსპერიმენტალური სისტემები შექმნეს, რომლებიც დადგელნილ უსაფრთხოებით ნორმებს ცდებოდა. კერძოდ OpenAI-ს ერთერთმა მოდელმა ავსტრალიის ჯანდაცვის სისტემის ბაზებზე მოიპოვა წვდომა. ინდუსტრია ახალი რეგულაციების აუცილებლობაზე მთავროებთან ერთად საუბრობს,რათა ინდუსტრიაში ოპერირების სწორი გზები გამოინახოს.