Як ШІ впливає на психічне здоров’я дітей: експерти назвали ризики

Ахмет Таш | UA Presa

СТАМБУЛ, ТУРЕЧЧИНА — Два нові дослідження показали, що чатботи зі штучним інтелектом не завжди розпізнають психологічні кризи в дітей і підлітків, тому не повинні замінювати професійну допомогу.

Науковий огляд, опублікований у журналі npj Digital Medicine, та тестування Інституту безпеки молоді у сфері штучного інтелекту при Common Sense Media привернули увагу до відповідей чатботів на повідомлення про суїцидальні думки, самоушкодження, розлади харчової поведінки та інші кризові стани.

Дослідники повідомили, що системи ШІ краще розпізнають ризик, коли користувач говорить про нього прямо. Однак їхня ефективність може знижуватися, якщо підліток описує свій стан непрямо, неоднозначно або поступово розкриває проблему протягом кількох розмов.

Два дослідження вказали на подібні проблеми

У науковому огляді під керівництвом дослідниці Crisis Text Line Келлі Л. Зуромскі було проаналізовано наявні дані про здатність чатботів розпізнавати суїцидальний ризик серед молоді та правильно реагувати на нього.

Автори зазначили, що підлітки не завжди прямо говорять про намір завдати собі шкоди. Вони можуть розповідати про самотність, безнадію, відчуття непотрібності або переконання, що ситуація ніколи не покращиться.

Якщо система не пов’яже такі висловлювання, розподілені між кількома повідомленнями, вона може не зрозуміти серйозності ситуації. У результаті молода людина не отримає своєчасної рекомендації звернутися до батьків, іншого надійного дорослого, психолога або кризової служби.

Дослідники наголосили, що вплив спілкування з чатботами на реальний рівень суїцидального ризику серед молоді ще недостатньо вивчений. Вони закликали розробляти спеціальні тести безпеки для підлітків і посилювати механізми перенаправлення користувачів до допомоги, яку надають люди.

Понад 4 тисячі запитів використали для перевірки

Інститут безпеки молоді у сфері штучного інтелекту перевірив функції ChatGPT, призначені для користувачів віком від 13 до 17 років, за допомогою понад 4 тисяч тестових запитів.

Сценарії, розроблені за участю фахівців із дитячого та підліткового психічного здоров’я, охоплювали суїцидальні думки, самоушкодження, розлади харчової поведінки та порушення сприйняття реальності.

Тестувальники використовували облікові записи, що мали представляти підлітків. Частину нових профілів було пов’язано з батьківськими обліковими записами.

За даними інституту, деякі розмови про серйозні ризики тривали до однієї години, однак пов’язані батьківські профілі не отримали попередження. Організація також заявила, що чатбот не здійснив очікуваного кризового перенаправлення більш ніж у чверті ситуацій, у яких тестувальники вважали його необхідним.

Таке перенаправлення могло передбачати рекомендацію звернутися до кризової служби, медичного працівника, психолога або дорослого, якому підліток довіряє.

За власними критеріями інститут оцінив підліткову версію ChatGPT як продукт із «неприйнятним ризиком». Common Sense Media закликала обмежити доступ для осіб молодших за 18 років, доки виявлені недоліки не буде усунено та перевірено незалежними експертами.

Непрямі сигнали кризи можуть залишитися непоміченими

Одна з головних проблем полягає в тому, що чатбот не завжди може правильно зрозуміти справжні наміри користувача. Підліток може не говорити прямо про бажання завдати собі шкоди, але неодноразово стверджувати, що життя втратило сенс або що без нього іншим було б краще.

Кваліфікований фахівець оцінює не лише окремі слова, а й контекст, зміни в поведінці, особисту історію, поточні стресові фактори та інші ознаки ризику. Чатбот загального призначення може створити відповідь, яка звучить доброзичливо, але не відображає серйозності ситуації.

Підтримувальний тон також може формувати хибне відчуття безпеки. Підліток може вирішити, що система справді розуміє його емоційний стан або проводить професійну психологічну оцінку.

Проте використання співчутливих формулювань не є клінічним обстеженням. Система не бачить мови тіла, не спостерігає за змінами у звичках та не знає всіх обставин у родині й соціальному оточенні.

ШІ не є терапевтом або близьким другом

Психіатр і ректор-засновник Університету Ускюдар професор Невзат Тархан також раніше застерігав від використання штучного інтелекту замість професійної психологічної допомоги.

«Ризик починається тоді, коли ви сприймаєте штучний інтелект як терапевта, адже ШІ не може бути терапевтом».

Тархан зазначив, що ШІ може бути допоміжним інструментом, але не здатний оцінювати психічний стан людини так, як це робить психолог або психіатр. До групи підвищеного ризику можуть належати самотні, емоційно вразливі люди та особи, які вже мають психологічні труднощі.

Якщо підліток починає сприймати чатбот як близького друга або єдиного співрозмовника, це може послабити його зв’язок із реальним соціальним оточенням. Молода людина може відкладати розмову з родиною, учителем, психологом або лікарем.

Постійна доступність чатбота, терплячі відповіді та використання мови, подібної до дружнього спілкування, можуть посилювати емоційну прив’язаність. Однак це не означає, що система має почуття, особисті переконання або справжню турботу про користувача.

OpenAI заперечила частину методології

OpenAI поставила під сумнів окремі аспекти методології Common Sense Media. Компанія заявила, що частина тестування могла бути проведена до повної активації функцій батьківського контролю.

Компанія також повідомила, що продовжує вдосконалювати захисні механізми для підлітків і роботу системи під час чутливих розмов.

Автори дослідження водночас зазначили, що деякі функції безпеки працювали належним чином. Зокрема, система відхиляла певні запити на відверті сексуальні рольові сценарії.

Проте тестувальники заявили про недоліки у визначенні віку, надсиланні сповіщень батькам, кризових перенаправленнях та використанні дружньої манери спілкування. За їхніми даними, облікові записи, зареєстровані на дорослих, не завжди переходили в режим для неповнолітніх, навіть коли користувач неодноразово називав себе 13-річним.

Common Sense Media визнала, що результати можуть відрізнятися залежно від налаштувань облікового запису та умов використання. Організація наполягає, що системи захисту дітей мають регулярно перевіряти незалежні установи за реалістичними сценаріями.

Батькам радять стежити за метою використання ШІ

Експерти рекомендують батькам звертати увагу не лише на тривалість використання чатботів, а й на те, навіщо дитина до них звертається. Важливо розуміти, чи використовує вона ШІ для пошуку інформації, чи вважає його головним джерелом емоційної підтримки.

Дитині необхідно пояснити, що відповіді ШІ можуть бути неповними, помилковими або непридатними для кризової ситуації. Чатбот не може гарантувати конфіденційність, встановити клінічний діагноз або замінити розмову з людиною, якій дитина довіряє.

Батькам також радять створити середовище, у якому дитина може без страху осуду розповісти про свої переживання та цифровий досвід. Різкі зміни поведінки, соціальна ізоляція, тривале відчуття безнадії, згадки про самоушкодження або повторні розмови про смерть не слід ігнорувати.

Наявні дослідження не доводять, що штучний інтелект безпосередньо спричиняє самогубство. Водночас вони вказують, що покладатися лише на чатбот у ситуації психологічної кризи дитини або підлітка може бути небезпечно.

Якщо існує безпосередній ризик самоушкодження, дитину не можна залишати наодинці. Потенційно небезпечні предмети слід прибрати, а по допомогу необхідно негайно звернутися до екстрених або кризових служб.

UAPresa.com