ЧетГПТ воведува родителски надзор 

Компанијата ОпенАИ објави дека родителите наскоро ќе имаат значително поголема контрола врз активностите на своите тинејџери на популарната алатка ЧетГПТ. Одлуката доаѓа како одговор на растечките загрижености за безбедноста на младите корисници, а поттикната е од неодамнешна тужба, пишува Ен-би-си њуз.

Во блог пост, компанијата за развој на вештачка интелигенција ги истакна плановите ЧетГПТ да интервенира порано и во поширок спектар на ситуации кога ќе препознае потенцијални кризи на менталното здравје кај корисниците што би можеле да доведат до самоповредување.

Првата тужба и реакцијата на компанијата

Ова соопштение доаѓа само една недела откако ОпенАИ се соочи со својата прва тужба за кривична смрт. Поднесена е од брачен пар од Калифорнија кој тврди дека ЧетГПТ е одговорен за самоубиството на нивниот 16-годишен син, Адам Рејн. Иако компанијата не го спомена директно трагичниот случај во своето соопштение, по поднесувањето на тужбата навести дека промените доаѓаат.

Што носи родителската контрола?

Според најавите на ОпенАИ, во текот на следниот месец, родителите ќе можат да ги поврзат своите кориснички сметки со оние на своите деца. Ова ќе им овозможи да постават правила соодветни на возраста за одговорите на ЧетГПТ, како и да управуваат со функции како што се меморијата на ботот и историјата на разговор.

Можноста за примање известувања кога системот ќе препознае дека тинејџерот е „во состојба на акутна анксиозност“ е исто така нова. Ова е првата функција што го охрабрува ЧетГПТ да ги пријавува разговорите на малолетници на возрасно лице, мерка што ја побарале многу родители.

Тужбата на семејството Рејн тврди дека кога Адам ги споделил своите самоубиствени мисли со моделот ГПТ-4о, повремено добивал одговори од ботот што активно го обесхрабрувале да побара човечка помош. Четботот наводно му понудил помош при пишување порака за збогум и го советувал за поставувањето на јамката. Иако системот постојано го потсетувал на бројот на телефонската линија за помош, родителите тврдат дека нивниот син лесно ги заобиколувал овие предупредувања.

Зајакнување на постојните заштитни мерки

ОпенАИ претходно забележа дека постојните заштитни мерки се дизајнирани да обезбедат ЧетГПТ да дава емпатични одговори и да ги насочува корисниците кон вистински ресурси за помош. Компанијата сега планира да ги зајакне овие мерки, особено во подолги преговори, каде што претходните „безбедносни огради“ се покажале како посклони кон попуштање.

„На пример, ЧетГПТ може правилно да упати кон линија за помош во кризни ситуации кога некој првпат ќе спомене намера, но по многу пораки во подолг временски период, може да заврши со понуда на одговор што ги крши нашите заштитни мерки“, напиша компанијата. „Ги зајакнуваме овие ублажувања за да останеме сигурни во текот на долгите разговори и истражуваме начини да обезбедиме робусно однесување низ повеќе разговори.“

Овие надградби ќе ги надополнат мерките воведени минатиот месец, откако компанијата призна дека ГПТ-4о „не успеал да препознае знаци на заблуда или емоционална зависност“. Воведувањето на моделот ГПТ-5 во август, исто така, донесе нови безбедносни ограничувања.

„Ова е само управување со кризи“

Адвокатот на семејството Рејн, Џеј Еделсон, одговори на објавата на ОпенАИ велејќи дека извршниот директор Сем Алтман „треба недвосмислено да каже дека верува дека ЧетГПТ е безбеден или веднаш да го повлече од пазарот“. Тој верува дека компанијата одлучила да даде „нејасни ветувања“ наместо да преземе итни мерки.

„Не верувајте, ова не е ништо повеќе од тимот за управување со кризи на ОпенАИ кој се обидува да ја смени темата“, рече тој.

Во меѓувреме, ОпенАИ се соочува со зголемен надзор поради извештаи за заблуди предизвикани од вештачка интелигенција кај луѓе кои се обратиле на ЧетГПТ за емоционална поддршка. Самиот Алтман призна дека луѓето развиваат „различна и посилна“ приврзаност кон вештачката интелигенција.

„Можам да замислам иднина каде што многу луѓе всушност ќе им веруваат на советите на ЧетГПТ за нивните најважни одлуки“, напиша Алтман на социјалната мрежа Икс минатиот месец. „Иако тоа може да биде одлично, не ми е баш пријатно. Но, очекувам дека ќе дојде до одреден степен и наскоро милијарди луѓе можеби ќе разговараат со вештачката интелигенција на овој начин.“

Идни чекори и професионален надзор

Во текот на следните 120 дена, ЧетГПТ ќе почне да ги пренасочува чувствителните разговори, како што се оние што покажуваат знаци на „акутна вознемиреност“, кон понапредните модели за носење заклучоци на ОпенАИ. Овие модели, според внатрешните тестови, поминуваат повеќе време анализирајќи го контекстот пред да одговорат и поконзистентно ги следат безбедносните упатства.

Компанијата, исто така, објави формирање на „Стручен совет за благосостојба“, кој ќе биде составен од експерти за развој на младите, ментално здравје и интеракција човек-компјутер. Советот ќе ја советува компанијата, но конечните одлуки ги носи ОпенАИ. Дополнително, компанијата се потпира на „Глобалната мрежа на лекари“, група од над 250 експерти кои помагаат во истражувањето на безбедноста и обуката за модели.