Компанія OpenAI підтвердила, що ChatGPT аналізує особисті бесіди користувачів на наявність певних видів небезпечного контенту та, за потреби, може передавати їх правоохоронним органам. Діалоги спершу проходять автоматичні фільтри, а потім перевіряються невеликою групою модераторів, які вирішують, чи блокувати обліковий запис і чи передавати інформацію поліції у випадках “безпосередньої загрози серйозної фізичної шкоди”, зазначає OpenAI у своєму блозі.

Водночас компанія наголосила, що випадки самоушкодження поки що не передаються владі з міркувань приватності – у таких ситуаціях ChatGPT перенаправляє користувачів до фахівців і гарячих ліній підтримки.

Рішення ухвалене на тлі зростаючої критики після випадків самогубств і заподіяння шкоди за порадами чат-бота, які експерти називають “ШІ-психозами” – станами, коли штучний інтелект здатний підмінити людині реальність.

Цей крок викликав суперечки: критики зазначають, що OpenAI не змогла забезпечити повну безпеку технології та змушена застосовувати сувору модерацію, що суперечить заявам про захист конфіденційності. Додатково викликає питання відсутність прозорості, адже користувачі не знають, які слова чи теми можуть призвести до перевірки і навіть повідомлення поліції.

Раніше генеральний директор OpenAI Сем Альтман попереджав, що листування з ChatGPT може бути використане у суді, адже чинне законодавство не надає чат-ботам особливого статусу конфіденційності, як, наприклад, розмовам із терапевтом чи юристом.

Джерело: https://itechua.com