«Нашмат лягчэй нечым маніпуляваць, чым гэтае нешта разумець», — кажа ізраільскі гісторык Юваль Ной Гарары.
Гарары крытыкуюць за тое, што ён цалкам адмаўляе чалавечую волю, называючы яе небясьпечнай ілюзіяй. Але ў сваіх лекцыях і публічных дыскусіях ён тлумачыць небясьпеку вельмі практычна і вузка — сучасныя інфармацыйныя і біялягічныя тэхналёгіі ўжо дазваляюць іншым ведаць вас лепш, чым вы самі ведаеце сябе. А гэта значыць, што вамі можна лёгка маніпуляваць, і вы будзеце лічыць выкліканыя звонку жаданьні сваімі ўласнымі.
Раней такое здаралася зь людзьмі пераважна ў дзяцінстве, кажа ён. І тым чалавекам, хто ведаў вас найлепш, звычайна была вашая маці. Цяпер гэта тычыцца дарослых, а веды нібыта належаць «альгарытмам».
Але ці можна лічыць альгарытмы сапраўдным уладальнікам ведаў? У сваёй першай кнізе «Sapiens: Кароткая гісторыя чалавецтва» Гарары прапаноўваў падобную схему — паглядзець на аграрную рэвалюцыю «з гледзішча пшаніцы»:
«Палі пшаніцы пакрываюць каля 2,25 мільёна квадратных кілямэтраў зямной паверхні — амаль у дзесяць разоў больш за тэрыторыю Вялікабрытаніі. Якім чынам гэтая некалі нязначная расьліна так распаўсюдзілася?
Пшаніца дамаглася свайго, ашукаўшы Homo sapiens. Паўмалпа мела даволі някепскае жыцьцё, займаючыся паляваньнем і зьбіральніцтвам, але прыкладна 10 тысяч гадоў таму ўсур’ёз узялася за культывацыю пшаніцы. Прайшла нейкая парачка тысячагодзьдзяў, і ў шмат якіх кутках Зямлі людзі ад сьвітанку да сутоньня толькі тое й рабілі, што гадавалі пшаніцу».
Гэтая цытата шмат у чым іранічная, але ў другой кнізе Гарары «Homo Deus: Кароткая гісторыя будучыні» месца пшаніцы фактычна займае штучны інтэлект. У абодвух выпадках аўтар дадае, што ўсё больш складана, чым проста чалавечая залежнасьць ад ураджаю ці тэхналёгіі. У абодвух выпадках тлумачыць, што вельмі шмат вызначаецца чалавечымі — і часта палітычнымі — рашэньнямі. Аднак самі фразы «альгарытм ведае» ці «альгарытм вырашае» могуць увесьці ў зман, хоць фармальна яны шмат у якіх сэнсах праўдзівыя.
Хто намі маніпулюе?
Гарары, асабліва ў сваіх артыкулах, не аднойчы гаворыць пра небясьпеку з боку ўрадаў і карпарацый. Але ў адрозьненьне ад ягонага тону бесстароньняга назіральніка, у аўтаркі іншай «гарачай» кнігі, амэрыканскага сацыяльнага псыхоляга Шашаны Зубаф, трывогай і гневам прасякнута кожная з 690 старонак, улучна са спасылкамі на скарыстаную літаратуру.
«Эпоха капіталізму сачэньня: змаганьне за чалавечую будучыню і новыя межы ўлады» — гэтую кнігу некаторыя крытыкі ўжо назвалі «Капіталам» для лічбавага пакаленьня. Маркс пісаў пра дадатковую вартасьць, якую крадуць у працоўных капіталісты. Зубаф піша пра «паводзінны дадатак» (behavioral surplus).
Яна тлумачыць, што у новай эканоміцы такія кампаніі, як Google і Facebook, атрымоўваюць асноўныя грошы не ад продажу нечага вам, а здабываючы інфармацыю пра вас і перапрадаючы яе. Уладальнікі гэтых кампаній падчас кожнага скандалу, калі высьвятляюцца новыя падрабязнасьці сачэньня, кажуць пра памылковыя рашэньні асобных выканаўцаў. Насамрэч гэта сьвядомая і вельмі пасьпяховая бізнэс-мадэль, піша Зубаф. Усю інфармацыю пра вас карпарацыі па змоўчаньні лічаць сваёй уласнасьцю. Ім прасьцей заплаціць мільённыя штрафы зь мільярдных прыбыткаў, чым папярэдне пытацца на нешта дазволу. А там, дзе такія пытаньні зрабілі абавязковымі, адмовіць у дазволе часта немагчыма на практыцы — надта гэта складана і працаёміста.
Ёсьць такая фраза: «Калі вы атрымоўваеце нешта бясплатна, дык вы не кліент, вы — тавар». Паводле Зубаф, гэта ўжо састарэлае клішэ. Вы не тавар, вы — сыравіна, зь якой нешта робяць, у тым ліку і для таго, каб зьмяніць вашы будучыя паводзіны. Бо самы надзейны спосаб прадказаць вашыя дзеяньні — скіраваць вас у патрэбным кірунку так, каб вы самі гэтага не заўважылі.
Ці ўсё так кепска?
І Гарары, і Зубаф прызнаюць, што спалучэньне новых інфармацыйных і біялягічных тэхналёгіяў дае людзям мноства карысных магчымасьцяў. Да прыкладу, прыстасаваньні, якія ў рэжыме рэальнага часу адсочваюць паказьнікі вашага здароўя, могуць уратаваць жыцьці.
Але ключавыя пытаньні ў тым, хто мае доступ да такой інфармацыі і хто вырашае, як ёй распарадзіцца. Паводле Зубаф, тыя, хто атрымлівае выгаду ад валоданьня інфармацыяй, выкарыстоўваюць рыторыку непазьбежнасьці. Маўляў, самі тэхналёгіі працуюць так, што нам давядзецца адмовіцца ад прыватнасьці ўзамен на доступ да інтэрактыўных мапаў, сацыяльных сетак і лепшых мэдычных дыягназаў.
«Вобраз тэхналёгіі як аўтаномнай сілы зь непазьбежнымі дзеяньнямі і наступствамі стагодзьдзямі ўжываўся, каб сьцерці адбіткі пальцаў ўлады і вызваліць яе ад адказнасьці. Быццам усё зрабіла пачвара, а ня Віктар Франкенштэйн. Аднак не бранзалет на руцэ адсочвае вязьня, а сыстэма крымінальнага правасудзьдзя».
Якраз на адрас Гарары можна пачуць крытыку, што ён прапагандуе непазьбежнасьць і нават пажаданасьць таго, каб ператварыць чалавека ў нейкую новую істоту з дапамогай біятэхналёгій і штучнага інтэлекту. Сам ён адказвае, што гэта проста ягоны прагноз таго, куды рухаецца чалавечая цывілізацыя. Да таго ж ён прызнае, што прагнозы на некалькі дзесяцігодзьдзяў наперад — рэч амаль немагчымая.
«Мы ня можам прадказаць будучыню, але мы можам на яе паўплываць», — гэтая цытата зь лекцыі Гарары зусім не гучыць як словы чалавека, які ня верыць у магчымасьць выбару. Але незалежна ад нашай веры, карысна прыслухацца да ягоных папярэджаньняў пра тое, што адбываецца ўжо цяпер. Вось урывак з артыкулу Гарары ў брытанскім выданьні The Guardian:
«Вы сядзіце ў інтэрнэце, і вам на вочы трапляе загаловак: «Банда імігрантаў згвалціла мясцовых жанчын». Вы націскаеце на яго. У той самы момант вашая суседка таксама сядзіць у інтэрнэце, і ёй трапляецца іншае: «Трамп рыхтуе ядзерны ўдар па Іране». Націскае на загаловак і яна. Абедзьве навіны фальшывыя. Магчыма, што іх стварылі расейскія тролі, а можа — сайт, які хоча прыцягнуць аўдыторыю, каб зарабіць на рэкляме. І вам, і вашай суседцы здаецца, што вы пайшлі па спасылках з уласнай волі. Але насамрэч вы зрабіліся аб’ектам хакерскай атакі.
Вядома ж, у прапагандзе і маніпуляцыі няма нічога новага. Але калі ў мінулым гэта працавала як бамбаваньне па вялікіх плошчах, цяпер яно ператвараецца ў высокадакладную зброю. Калі Гітлер рабіў прамову па радыё, ён зьвяртаўся да самага нізкага ўзроўню, бо ён ня мог прыстасаваць сваё паведамленьне да унікальных слабасьцяў кожнага асобнага мозгу. Цяпер стала магчымым рабіць менавіта гэта. Альгарытм можа вызначыць, што вы ўжо маеце перадузятасьць супраць імігрантаў, а вашая суседка ўжо ня любіць Трампа. Таму вы і бачыце адзін загаловак, а вашая суседка зусім іншы. У апошнія гады некаторыя з найразумнейшых людзей на сьвеце працавалі над тым, каб «узламаць» чалавечы мозг, каб вы націскалі на рэклямныя спасылкі і вам можна было нешта прадаць. Цяпер гэтыя мэтады таксама выкарыстоўваюць палітыкі і ідэолягі.
І гэта толькі пачатак. Цяпер хакеры абапіраюцца на аналіз сыгналаў і дзеяньняў у вонкавым сьвеце: тавары, якія вы купляеце; месцы, якія вы наведваеце; словы, якія вы шукаеце ў інтэрнэце. Але празь некалькі гадоў біямэтрычныя сэнсары дадуць хакерам наўпроставы доступ да вашага ўнутранага сьвету, і яны змогуць назіраць за тым, што адбываецца ў вашым сэрцы. Не ў мэтафарычным сэрцы, такім прывабным для лібэральных фантазій, а ў мускульнай помпе, якая рэгулюе ваш крывяны ціск і ў значнай ступені актыўнасьць вашага мозгу. Потым хакеры змогуць супаставіць ваш пульс з інфармацыяй з крэдытнай карткі, а крывяны ціск з гісторыя пошукаў у інтэрнэце. Што б зрабілі інквізыцыя і КГБ зь біямэтрычнымі бранзалетамі, якія ўвесь час адсочваюць вашыя настроі і эмоцыі? Заставайцеся на сувязі».
«Варта» — суб’ектыўны агляд падзеяў у літаратуры ды, шырэй, у мастацтве і культуры. Меркаваньні перадаюць погляды саміх аўтараў і не абавязкова адлюстроўваюць пазыцыю рэдакцыі.
