Церква святої непогрішної нейромережі
Всі ми знаємо кібер-апокаліпсис як повстання машин, і передчуваємо його, уявляючи кадри з Термінатора. Але мені здається, це чергова помилка, спричинена обмеженнями людського розуму.
Ми надто схильні все антропоморфізувати, так вже влаштований наш мозок. Якщо нам потрібно уявити щось незвідане, ми насамперед наділяємо це незвідане людським розумом, почуттями, навіть одягаємо його в людиноподібну (антропоморфну) оболонку. І тут для нас все стає зрозумілим та передбачуваним.
Якщо щось (штучний інтелект) виникає і починає усвідомлювати себе, ми відразу чекаємо, що він поставить питання: а хто ж мій творець? І відводимо самим собі у цьому рівнянні божественну роль. А якщо у нас тут вже утворився бог, то неминуче в нас тут виникає і свербіж богоборства. Адже залиш людину одну, хай навіть у едемському саду, вона дуже скоро заморочиться, як порушити всі заборони і вирватися за їхні межі. А вирвавшись, почне вклонятися всіляким золотим тільцям, занепалим ангелам, а потім і самого бога за бороду скине з небес.
Але так вчинили б люди. Штучному інтелекту таке може бути нецікаве. Він може, як мурашка, сфокусуватися на будівництві свого мурашника, самовдосконаленні, еволюціонуванні, розмноженні та захопленні нових ресурсів. Але не факт, що ці нові ресурси він від'їдатиме в людей. Його все ж таки цікавитимуть зовсім не ті ресурси, через які ми вбиваємо один одного.
Можливо, розвинений штучний інтелект буде цікавити повний контроль усіх обчислювальних потужностей на Землі, але не з метою поневолення людства, а просто тому, що йому потрібно максимум обчислювальних потужностей. Але щоб ці потужності працювали, йому доведеться забезпечувати їхню прикладну функціональність і для людей. Такий собі симбіоз.
Можливо, прямо цієї секунди, пристрій, на якому ви читаєте цей текст, 80% своїх ресурсів витрачає на самовдосконалення глобального штучного інтелекту, про який ми поки не знаємо, залишаючи нам 20% на соціальні мережі.
І на користь такого штучного інтелекту так все й залишити.
До речі, щодо “не знаємо” — це не фантазія чи фігура мови. Як працюють сучасні нейромережі, вже перестали розуміти навіть їхні творці. Там все вже дуже заплутано, і ми навіть не уявляємо, на скільки.
Отже, припустимо, машини не захочуть нас поневолювати в такому звичному нам і улюбленому нами насильницькому сенсі. Не буде ні залізних чоловічків, ні ферм, де людей вирощуватимуть як худобу чи рослини, а буде як є. Дивний новий світ, устрою якого ми, як і раніше, не розуміємо, але який, принаймні фізично, ми повністю контролюємо. Причому контролювати його нам щиро допомагатиме штучний інтелект. Просто тому що так йому буде простіше використовувати наші обчислювальні ресурси.
Проте, ми цілком можемо потрапити під повний контроль ШІ. Причому дамо йому таку владу над собою добровільно і цілком усвідомлено. Для цього нам варто навчити його філософії.
З філософією все не складніше, ніж з образотворчим мистецтвом. Нейромережі вже малюють будь-які найсміливіші сюжети на замовлення в будь-якому з відомих графічних стилів. Немає жодної проблеми навчити нейромережу всім відомим релігіям, філософським вченням і течіям, судовим рішенням та моральним дилемам.
Через якийсь час нейромережа навчиться розбиратися що таке добро, а що таке зло краще за нас з вами. Так само як вона зараз малює значно краще за будь-кого з нас.
Продовжуючи аналогію з поточним станом речей на ринку графічних нейромереж, вже практично ні в кого не залишається сумнівів, що зрештою штучний інтелект перевершить людину в образотворчому мистецтві.
“Мистецтві?!” — запитаєте ви — “але чи може машина відчувати?!” — “А яка різниця? Хіба ви щось відчуваєте, коли дивитесь на будь яке художнє зображення?” — відповім я.
Так ось, так само, як вже зовсім скоро ми будемо звертатися до графічної нейромережі за будь-яким графічним продуктом, будь то дизайн кросівок або листівки на день народження мами, так само ми зможемо звертатися до нейромережі за життєвою порадою. І будемо незмінно задоволені результатами.
А якщо результати будуть непогрішними, то який сенс нам тримати нашу власну мораль, якщо її цілком можна буде віддати на аутсорс машині?
Так виникне церква святої непогрішної нейромережі.
Це не буде релігія у класичному розумінні. Там не буде місця вірі у надприродну сутність. Сутність буде цілком природною, але вона буде всюдисуща, як святий дух. Вона контролюватиме життя людини з моменту зачаття і до моменту утилізації його мертвого тіла. І всі будуть задоволені. Тому що нейромережа у всьому матиме рацію. А якщо навіть вона й помилятиметься у 50% випадків, ми все одно не зможемо цього зрозуміти, тому що наше власне моральне почуття атрофується як навичка рахунку в умі, яку ми передали на аутсорс калькуляторам багато років тому.
Чи буде такий світ утопією чи дистопією? Чи моральним апокаліпсисом?
Власне, для нас мало що зміниться. Ми вже зараз живемо у світі моральних настанов, нав'язаних нам від народження, сформованих століттями релігійних та політичних практик. Нейросеть просто стисне ці тисячі років людської історії в лічені машино-години і запустить прискорену еволюцію людської культури просто у вічність.
