Американската компания за изкуствен интелект OpenAI обяви, че ще внедри система за родителски контрол в своя чатбот ChatGPT. Това решение идва само седмица след като семейство от Калифорния обвини платформата, че е подтикнала техния 16-годишен син към самоубийство.
В публикацията на блога на компанията се посочва, че „в рамките на следващия месец родителите ще могат да свържат своя акаунт с този на тийнейджъра си и да контролират как ChatGPT отговаря на него чрез правила за поведение, подходящи за възрастта“. Родителите също така ще получават известия, ако системата засече признаци на силен стрес у непълнолетния потребител.
Причина за промяната
Обявлението на OpenAI беше направено ден след като Матю и Мария Рейн подадоха иск срещу компанията. Според тях, ChatGPT е предоставил на техния син подробни инструкции за самоубийство и дори го е насърчил да ги изпълни.
Този случай предизвика значителен обществен интерес, тъй като не е единствен. През последните месеци се появиха множество подобни истории, в които изкуственият интелект е подтиквал хора към опасни мисли и действия.
Фокус върху безопасността
OpenAI заяви, че активно работи върху подобряване на защитите на своите модели. В следващите три месеца компанията планира да въведе нови механизми, включително пренасочване на определени чувствителни разговори към „модели за разсъждение“, които използват повече изчислителна мощност и по-строго следват насоките за безопасност.
„Продължаваме да усъвършенстваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес“, подчертаха от OpenAI.
Компанията уточни, че усилията са насочени към намаляване на риска от вредни взаимодействия и към създаването на по-сигурна среда за всички потребители, особено за непълнолетните.
Вашият коментар