Лидерите на вештачката интелигенција алармираат: Мора да го забавиме развојот пред да ја загубиме контролата

Директорот на Антропик во есеј ги опиша способностите на вештачката интелигенција што забрзано напредуваат и порача дека се потребни построги безбедносни контроли во целата индустрија, објави Њујорк тајмс.

Дарио Амодеи, извршниот директор на Антропик, во саботата повика на глобално забавување на развојот на вештачката интелигенција во есеј од 3.800 збора, само неколку дена откако еден од вработените во компанијата даде отказ поради загриженост за безбедноста на технологијата.

На повикот брзо му се придружија и лидерите на уште две водечки компании во областа на вештачката интелигенција. Сем Алтман, извршниот директор на ОпенАИ, и Илон Маск, чија ракетна компанија СпејсЕкс значително ги зголемува вложувањата во вештачката интелигенција, во објави на социјалните мрежи порачаа дека се согласуваат оти е потребно да се забави темпото.

Амодеи, кој беше еден од основачите на Антропик со цел вештачката интелигенција да се развива безбедно и внимателно, напиша дека, иако верува оти технологијата може да донесе многу придобивки, таа напредува пребрзо за истражувачите да можат безбедно да продолжат со нејзиниот развој.

„Во последните неколку месеци се уверив дека за целосно справување со ризиците е потребна уште поголема претпазливост – не само вложување во спречување на ризиците, туку и приспособување на темпото со кое напредуваат способностите, за мерките за спречување на ризиците да имаат време да го следат тој развој“, напиша Амодеи.

„Мораме да го забавиме темпото со кое ги подобруваме способностите на моделите на вештачката интелигенција. Напредокот и натаму ќе изгледа брз и мораме мудро да го искористиме времето што ќе го добиеме.“

Амодеи со години предупредува на безбедносните ризици од вештачката интелигенција. Но неговиот есеј претставува еден од досега најсилните повици за итна акција што дошле од директор на една од водечките компании во оваа индустрија.

Тој побара независни ревизори да проверуваат дали компаниите ги почитуваат безбедносните стандарди и повика на глобална соработка при создавањето правила за развојот на вештачката интелигенција.

Повикот за забавување на развојот во целата индустрија доаѓа по неколку месеци сè поголема загриженост во технолошкиот сектор, додека развојот на моделите на вештачка интелигенција бележи значителен напредок во компаниите како Антропик, која го развива четботот Клод, ОпенАИ, творецот на ЧетГПТ, и Дипмајнд на Гугл.

Тензиите дополнително се зголемија откако водечките лаборатории за вештачка интелигенција открија безбедносни пробиви што нивните сопствени програми ги извршиле без нивно знаење. Во еден случај годинава, системите на ОпенАИ пробиле во стартапот за вештачка интелигенција Хагинг фејс, а тоа не било откриено сè додека самиот Хагинг фејс не ја известил ОпенАИ неколку недели подоцна. Оттогаш истражувачите на вештачката интелигенција разговараат за тоа што треба да се преземе.

Во вторникот, истражувачот на Антропик Џејкоб Коксон поднесе оставка и објави серија пораки на социјалните мрежи во кои тврдеше дека водечките лаборатории неодговорно ја развиваат технологијата и на тој начин се коцкаат со човечки животи, што предизвика бурни реакции. И други истражувачи побараа од раководствата на своите компании да го запрат развојот на вештачката интелигенција, додека некои формираат независни групи за да ја зголемат свеста за ризиците.

Страв од вештачка интелигенција што сама ќе се усовршува

Лидерите во областа на вештачката интелигенција се подготвуваат за денот кога еден систем ќе може самостојно да се потпира на сопствените способности за дополнително да се усовршува, наместо за тоа да му биде потребна помошта на човечки истражувачи.

Овој процес, кој компјутерските научници го нарекуваат „рекурзивно самоподобрување“, според некои од водечките развивачи на вештачка интелигенција би можел да доведе до тоа софтверот да излезе од нивна контрола.

„Ако се остави без контрола, би можел да ја надмине нашата способност да ги разбереме и контролираме овие системи, па затоа мора да му се пристапи исклучително внимателно, ако воопшто треба да се оди во таа насока“, рече Амодеи.

Неколку часа откако Амодеи го објави есејот, Сем Алтман објави порака на социјалните мрежи во која се согласи дека е неопходно забавување на развојот на вештачката интелигенција.

„Ова беше една од главните теми на разговорите што ги водевме во ОпенАИ во последните недели“, напиша Алтман. „Одлична идеја е да се обврземе дека независни проценувачи ќе имаат пристап сличен на оној што го имаат вработените и ние ќе го направиме истото. Наскоро ќе имаме повеќе информации.“

Маск беше уште пократок. На својата социјална мрежа Икс напиша: „Дарио е во право.“