Нейромережа: помічник чи підбурювач?
Клірик Одеської єпархії УПЦ протоієрей Вадим Гладкий про те, які духовні та психологічні ризики несе штучний інтелект.
Штучний інтелект вже давно перестав бути фантастикою, ставши частиною нашої повсякденності. Ми зустрічаємо його в пошуковиках і перекладачах, при обробці фотографій, створенні музики, в освітніх сервісах. Для науки і техніки він відкриває нові горизонти: допомагає аналізувати величезні масиви даних, проєктувати найскладніші системи, створювати ліки, робити різні відкриття та знаходити нестандартні рішення. У житті звичайної людини нейромережа найчастіше представлена у вигляді голосового або текстового помічника, який допомагає економити час, виконуючи рутинні завдання, і відкриває нові можливості для науки, бізнесу та освіти.
Однак не можна забувати, що будь-які технології – це інструменти. А те, як їх використовувати, залежить тільки від волі людини. Сьогодні ми маємо доступ до невичерпних джерел знань, але самі по собі вони не роблять нас глибшими або уважнішими. Якщо людина не бореться зі своєю лінню, не вчиться стриманості і не прагне до чистоти, то навіть найкращі технології вона буде звертати на служіння пристрастям.
Головна спокуса нейромереж у тому, що вони імітують спілкування з живою людиною. Але це лише імітація. З живою істотою необхідно домовлятися, шукати спільну мову. Навіть з осликом потрібно «домовитися», щоб зрушити з місця, з конем необхідно встановити довіру. А ось з машиною домовлятися не потрібно. У цьому сенсі будь-яка технологія – підміна органічного, живого. Справжнє спілкування з людиною вимагає зусиль, смирення і любові. З ШІ не потрібно смирятися і вчитися любити. Він безвідмовний – погоджується, хвалить, підлаштовується під користувача.
Нещодавня трагедія з колишнім топ-менеджером Yahoo Стейн-Еріком Сельбергом, описана в The Wall Street Journal, показує темну сторону неконтрольованого спілкування зі штучним інтелектом. Людина, яка переживала особисту кризу, почала сприймати чат-бот як близького друга, довіряти його словам. Машина ж, не будучи особистістю, не маючи ні співчуття, ні відповідальності, підтримувала його хворобливі підозри і в результаті, на думку родичів, опосередковано підштовхнула до фатального кроку.
Також вже підтверджено дослідженнями, що постійна взаємодія з ШІ призводить до когнітивних змін: людина ніби віддає частину свого інтелекту і статусу творця. Не секрет, що формати подачі інформації в інтернеті спеціально націлені на вироблення залежності: короткі порції дофаміну, постійні сповіщення, утримання уваги. Наша біологічна природа виявилася вразливою, а великі корпорації свідомо використовують це, придумуючи нові способи «підсадити» людину.
Особливо такий «наркотик» сучасності згубний для дітей, хоча і далеко не кожен дорослий має достатній імунітет. Причому для нас, християн, немає нічого нового в способах вироблення внутрішнього захисту – адже це базовий аскетичний мінімум, необхідний кожному.
По-перше, чітко сформований світогляд: хто я такий, хто ми, хто мій друг і хто ворог, для чого я живу, кому я служу і хто мій Бог.
По-друге, зв'язок з матеріальним світом: спорт і робота руками.
По-третє, здатність до саморефлексії: відстеження своїх внутрішніх рухів і бажань, і покаяння. Звичайно ж, ШІ нам у цьому не допоможе, адже у нього в коді прописано протилежне – говорити те, що хочеться чути користувачу, виправдовувати, підтримувати, тоді як саморефлексія змушує дивитися туди, куди дивитися не хочеться.
Нарешті, піст (стриманість) у цифровій сфері – ще один універсальний засіб, здатний натренувати волю проти залежності і повернути людині свободу.
Загалом, розвиваючи технології, потрібно завжди говорити про психологію, устрій мозку, біологічні механізми зворотного зв'язку та їх вразливість. Адже навіть там, де йдеться не про залежність, а про просте використання технологій, є свої небезпеки: алгоритми можуть видавати помилки, спотворювати факти, підміняти реальність.
