У інтэрвію Чэскаму тэлебачаньню ČT24 ён расказаў, чаму людзей павінны непакоіць ня толькі новыя тэхналёгіі, але і тое, як яны мяняюць давер, палітыку і чалавечае мысьленьне. На думку Гарары, галоўная небясьпека ШІ — не ў сцэнарах фантастычных фільмаў, дзе робаты паўстаюць супраць людзей. Значна больш рэальная пагроза — паступовая страта чалавечага кантролю над тэхналёгіямі, якія мы самі ствараем.
Асноўныя тэзісы Гарары
Людзі рызыкуюць стаць «каровамі будучыні»
У адрозьненьне ад звычайных прыладаў, штучны інтэлект можа самастойна прымаць рашэньні, ствараць новыя ідэі і дзейнічаць без пастаянных загадаў чалавека. Праблема ня толькі ў тым, што ШІ можа быць разумнейшы за нас у асобных задачах. Ён можа мысьліць зусім інакш, і мы ня будзем разумець, чаму ён прыйшоў да пэўнага рашэньня. Людзі хутка ня змогуць зразумець фінансавую й эканамічную сыстэму, якой будзе кіраваць штучны інтэлект, гэтак жа, як каровы ня разумеюць чалавечую фінансавую сыстэму, што кантралюе іх жыцьцё. Гэта папярэджаньне пра небясьпеку страты кантролю, а не прадказаньне непазьбежнага паўстаньня машынаў.
Рызыка калектыўнай дэмэнцыі
ШІ можа выконваць усё больш задачаў, якія раней патрабавалі чалавечых ведаў і навыкаў. Але ёсьць і іншая рызыка: калі мы будзем пастаянна даручаць яму аналізаваць інфармацыю і прымаць рашэньні, то можам адвыкнуць думаць самастойна. Гарары гаворыць пра рызыку калектыўнай дэмэнцыі чалавецтва. Ён мае на ўвазе не мэдычны дыягназ, а сытуацыю, у якой грамадзтва паступова адвыкае ад самастойнага мысьленьня і пачынае прымаць гатовыя адказы за ўласныя высновы.
ШІ можа ўзмацніць маніпуляцыі
Альгарытмы ўжо ўмеюць падбіраць кантэнт, які выклікае ў нас моцныя эмоцыі. Больш дасканалы ШІ зможа яшчэ лепш разумець нашыя страхі і жаданьні, ствараць пераканаўчыя фальшыўкі і ўплываць на палітычныя погляды.
Грамадзтва павінна захаваць кантроль
Гарары не прапануе простага рэцэпту, які адразу вырашыць усе праблемы. Але з ягоных аргумэнтаў вынікае некалькі важных кірункаў.
- Не аддаваць ШІ ўсе рашэньні. Асабліва калі гаворка пра зброю, дзяржаўнае кіраваньне, суды і іншыя сфэры, дзе памылка можа каштаваць чалавечага жыцьця.
- Захоўваць чалавечую адказнасьць. Нельга дазваляць уладам або кампаніям апраўдваць шкодныя рашэньні тым, што іх прыняў альгарытм.
- Рэгуляваць тэхналёгіі да таго, як праблемы стануць незваротнымі. Законы і грамадзкі кантроль павінны разьвівацца разам з магчымасьцямі ШІ.
- Берагчы здольнасьць думаць самастойна. Карыстацца ШІ як памочнікам, але не замяняць ім уласныя высновы, веды і адказнасьць.
- Падтрымліваць незалежную журналістыку і адукацыю. У сьвеце, дзе пераканаўчую хлусьню можна стварыць за некалькі сэкундаў, здольнасьць правяраць факты становіцца асабліва важнай.
Гэтыя захады не гарантуюць, што небясьпекі зьнікнуць. Але яны дапамагаюць не ператвараць тэхналёгію ў сілу, якая дзейнічае без грамадзкага кантролю.
Хто такі Юваль Ной Гарары і чаму яго слухаюць
Юваль Ной Гарары (Yuval Noah Harari) — ізраільскі гісторык, філёзаф, інтэлектуал, прафэсар гісторыі ў Ерусаліме. Ён стаў сусьветна вядомым дзякуючы кнізе «Sapiens: Кароткая гісторыя чалавецтва» (2011), дзе папулярна й правакацыйна апісаў гісторыю чалавека ад каменнага веку да сучаснасьці праз прызму мітаў, супрацоўніцтва й кагнітыўнай рэвалюцыі. Ягоныя працы перакладзеныя на дзясяткі моваў, а сам ён стаў адным з найбольш вядомых публічных мысьляроў, якія разважаюць пра будучыню чалавецтва.
Ягоныя прагнозы не зьяўляюцца бясспрэчнымі навуковымі высновамі. Аднак Гарары дапамагае паглядзець на штучны інтэлект шырэй: гэта ня толькі тэхналягічная рэвалюцыя, але і пытаньне пра ўладу, свабоду і здольнасьць чалавека самастойна вырашаць, як жыць.
Галоўнае пытаньне, якое ставіць Гарары: калі машыны будуць разумець нас лепш, чым мы разумеем самі сябе, ці зможам мы застацца гаспадарамі ўласнага жыцьця?