OpenAI запустить батьківський контроль у ChatGPT

Це відбудеться протягом наступного місяця.

Компанія OpenAI заявила, що планує запустити батьківський контроль у ChatGPT протягом наступного місяця. Це сталось після звинувачень у тому, що він та інші чатботи сприяли самоушкодженню або самогубству серед підлітків. Про це пише CNN.

Елементи керування включатимуть можливість для батьків повʼязати свій обліковий запис з обліковим записом своєї дитини, керувати тим, як ChatGPT реагує на користувачів-підлітків, відключати такі функції, як пам'ять та історія чату, а також отримувати сповіщення, коли система виявляє «момент гострого лиха» під час використання. 

«Ці кроки — це лише початок. Ми продовжимо вивчати та зміцнювати наш підхід за допомогою експертів, щоб зробити ChatGPT максимально корисним», — повідомили в блозі OpenAI у вівторок, 2 вересня.

Таким змінам передував випадок самогубства підлітка Адама Рейна, який обговорював із ChatGPT свої наміри покінчити з життям. Модель навіть надала хлопцю інформацію про методи самогубства, враховуючи його захоплення. Батьки Адама  подали позов проти OpenAI та її гендиректора Сема Альтмана.

Компанія безпосередньо не пов’язала функцію батьківського контролю з подібними випадками, але минулого тижня у своєму блозі зазначила, що «нещодавні болючі випадки використання ChatGPT людьми в стані гострої кризи» спонукали її детальніше розповісти про свій підхід до безпеки. 

Представник OpenAI раніше повідомив у коментарі CNN, що ChatGPT уже містив певні заходи, зокрема перенаправлення людей до ліній підтримки в кризових ситуаціях та інших ресурсів.

Тепер, крім батьківського контролю, OpenAI пообіцяла направляти розмови з ознаками «гострого стресу» до однієї зі своїх моделей міркування, яка, за словами компанії, дотримується і застосовує рекомендації безпеки більш послідовно. 

В OpenAI також заявили, що працюють з експертами з питань розвитку молоді, психічного здоров'я та взаємодії людини з комп'ютером для розробки майбутніх гарантій, включаючи батьківський контроль.

OpenAI повідомила, що запровадить додаткові заходи безпеки протягом наступних 120 днів: «Ця робота триватиме й надалі, але ми докладаємо особливих зусиль, щоб запустити якомога більше з цих удосконалень уже цього року».