Лінкі ўнівэрсальнага доступу

Ці будзе машына выбіраць за чалавека, каго яму кахаць?


Кадр са стужкі «Тэрмінатар-3: Паўстаньне машынаў»

Сьцісла:

  • Вялікія дадзеныя (big data) і штучны інтэлект ператвараюць наш сьвет у зусім іншы і даволі небясьпечны
  • Цяпер вялікімі дадзенымі ў значнай ступені кіруе Кітай, ён перахапіў ініцыятыву ў ЗША
  • Оруэлаўская формула «Вялікі брат глядзіць на цябе» — рэальнасьць сучаснага Кітаю і ня толькі яго
  • Tinder ужо сам выбірае моладзі партнэраў для спатканьня
  • Першым, хто пачаў шырока выкарыстоўваць дыгітальныя тэхналёгіі і сацсеткі ў палітычнай кампаніі, быў Барак Абама, а зусім ня Дональд Трамп і не расейцы
  • Асабістыя дадзеныя, права і магчымасьць імі валодаць, можа вызначыць пераможцу ў геапалітычным суперніцтве Кітаю, Расеі і ЗША

Гутарка Францішка Вячоркі і Юрыя Дракахруста

Юры Дракахруст
Юры Дракахруст

Дракахруст: Я прапаную абмеркаваць артыкул вядомага калюмніста газэты New York Times Томаса Фрыдмана «Увага! Усё робіцца глыбокім: стагодзьдзе капіталізму сачэньня». Ідэя артыкулу палягае ў тым, што новыя тэхналёгіі — вялікія дадзеныя і штучны інтэлект — ператварюць наш сьвет у зусім іншы і даволі небясьпечны.

Раней Томас Фрыдман быў апалягетам гэтых новых тэхналёгіяў, была яго знакамітая кніга «Пляскаты сьвет», дзе ён пісаў пра тое, як інтэрнэт ператварае наш сьвет у лепшы.

А вось цяперашні артыкул — хутчэй папярэджаньне, што сьвет, які наступае — гэта страшны сьвет.

Адна з праяваў таго, пра што піша Фрыдман — гэта расейскае ўмяшаньне ў амэрыканскія выбары. На думку некаторых, невялічкая група людзей з піцерскай «фабрыкі троляў» здолела сапраўды паўплываць на выбары прэзыдэнта ЗША. Ці прынамсі шуму навяла, што можа нават важней за прамы ўплыў. Францішак, гэты новы сьвет — гэта ваш сьвет. А вам ня страшна?

Францішак Вячорка
Францішак Вячорка

Вячорка: Мне ня страшна. Мяне артыкул Фрыдмана расчараваў. Вы адзначылі, што раней ён быў прапагандыстам, прамоўтэрам дыгітальных зьменаў і пазытыву, які яны нясуць.

Самае моцнае пачуцьцё ў гэтым тэксьце — гэта страх перад рэальнасьцю, у якой мы, людзі, кантралюем усё менш рэчаў і зьяваў. Але насамрэч магчымасьці, які адкрывае гэты новы сьвет (і Фрыдман пра іх гаворыць), пераважаюць тыя небясьпекі, якія ён нясе.

Так, дыгіталізацыя, альгарытмізацыя — гэта вынік капіталізму. Калі б не было капіталізму, не было б гэтых тэхналёгіяў і гэтай пагрозы захопу сьвету робатамі, Фэйсбукам і г. д. Зь іншага боку, вынікамі гэтай дыгіталізацыі і гэтых неверагодных магчымасьцяў, на жаль, найбольш эфэктыўна карыстаюцца дыктатары.

10-15 гадоў таму ЗША былі пачынальнікамі такіх праектаў, як інтэрнэт-крамы, тады малады Джэф Бэзас заснаваў Amazon, сталі зьбірацца вялікія дадзеныя і выкарыстоўвацца ня толькі ў бізнэсе і ў журналістыцы, але і ў мэдыцыне.

Джэф Бэзас, заснавальнік і ўладальнік Amazon
Джэф Бэзас, заснавальнік і ўладальнік Amazon

Цяпер вялікімі дадзенымі ў значнай ступені кіруе Кітай. Ён перахапіў ініцыятыву, цяпер ЗША падхопліваюць адкрыцьці, якія рэхам даносяцца з Пэкіну.

Таму я б больш палохаўся не паўстаньня робатаў, не самадастатковага дыгітальнага розуму, а нэаімпэрыяў, такіх як Кітай і ў меншай ступені Расея. Яны здольныя ператварыць гэтыя тэхналёгіі ў зброю.

Памятаеце стужку «Тэрмінатар», дзе робаты пачалі кіраваць сьветам. Але робаты ўзьніклі не самі сабой. Нават у той стужцы былі нейкія злыя людзі, якія ператварылі машыну, што мусіла служыць чалавеку, у зброю. Тое самае адбываецца зараз і зь вялікімі дадзенымі. Пры дапамозе гэтых дадзеных можна рабіць лекі, а можна кантраляваць народы, як гэта робіць Кітай.

Вялікі брат глядзіць на цябе

Дракахруст: Вы прыгадалі «Тэрмінатара». А я прыгадаў кнігу, якую чытаў у далёкім юнацтве — 1984 Орвэла. Тэлескрыны, татальны кантроль, Big Brother is watching you (Вялікі брат глядзіць на цябе) — тады гэта здавалася фантастыкай, гіпэрбалізацыяй. А цяпер гэта рэальнасьць, рэальнасьць таго ж Кіта. — дзе «вялікі брат» сапраўды практычна сочыць за ўсімі і паўсюль. Рэальнасьць скапіявала мастацтва.

Тое, што вы сказалі пра злых людзей, якія стаяць за робатамі — гэта выглядае такой антрапамарфізацыяй пагрозы. Але якая злая воля ў альгарытмаў Фэйсбуку? Гэта ж не Цукерберг вам падсоўвае тую рэкляму, якая адпавядае аналізу вашага прафайлу. У альгарытмаў няма пачуцьцяў, няма волі. Але яны кіруюць намі.

Францішак Вячорка
Францішак Вячорка

Вячорка: Альгарытмы не кіруюць намі, яны прапаноўваюць нам варыянты. Дакладней, ідэальны варыянт, які спрашчае нам жыцьцё. Мы эканомім час, рэсурс, мы больш аптымальна падыходзім да выбару прафэсіі, адукацыі...

Дракахруст:...мы эканомім таксама і волю. Мы яе проста не праяўляем.

Вячорка: Так, менавіта. І ў гэтым ёсьць небясьпека. Распавяду прыклад з часу майго навучаньня ў ЗША. Я вучыўся разам у амэрыканскімі бакаляўрамі — ніхто зь іх ня ўмее гатаваць ежу. Усе яны заўсёды мелі мікрахвалёўку: купіў паўфабрыкат, размарозіў у мікрахвалёўцы — нашто гатаваць?

А цяпер у іх ва ўсіх дома стаяць Гугл-сыстэмы, якія кіруюць хатняй кухняй, з электрапрыладамі ў доме, зь дзьвярыма. І яны насамрэч ня ведаюць, якая прылада за што адказвае.

Мы і сапраўды трошкі прымітывізуемся і і перастаем вучыцца. Мы ведаем, што за нас гэта зробіць iPhone, нам ня трэба ведаць, як прыгатаваць пірог ці локшыны, бо гэта можна нагугліць. Але калі альгарытмы сыстэмы зь нейкай прычыны адключаюцца, мы робімся бездапаможнымі. Так, гэта пагроза, але гэтая пагроза непазьбежная.

Людзі, якія ў дагістарычныя часы палявалі на маманта, былі лепшымі паляўнічымі, чым нашыя сучасьнікі. Ніхто з нас не задушыць рыся голымі рукамі, а раней людзі гэта маглі. Гэты навык нам непатрэбны. Затое мы ўмеем рабіць іншае.

Цяпер вырасла спэцыялізацыя. Раней людзі ўмелі патрошку рабіць усё, цяпер мы выдатна ведаем нешта адно, астатняе робяць за нас іншыя людзі ці машыны.

Дракахруст: А ці не давядзецца страчваць гэтую магчымасьць выбіраць, жаданьне выбіраць і ў яшчэ адной сфэры? Пра гэта піша ізраільскі гісторык Юваль Гарары ў сваім інтэлектуальным бэстсэлеры «Homo Deus. Кароткая гісторыя будучыні».

Юваль Гарары
Юваль Гарары

Вы сказалі, што людзі развучыліся гатаваць, за іх гэта робяць машыны. Аднак той жа Фэйсбук можа падлічыць, якія для вас найбольш прыдатныя сэксуальныя партнэркі. І гэта будзе правільны разьлік, зроблены на падставе глыбокага аналізу вашых густаў і перавагаў. Так, вы можаце адмовіцца. Як можна адмовіцца і ад GPS, ад Смарт-дамоў, якія вы прыгадалі, ад тых жа мікрахвалёвак. А нашто, дзеля чаго адмаўляцца? Але тады вы ўжо ня будзеце выбіраць. За вас фактычна выбар зробіць машына, жалязяка.

«Людзям камфортна, калі выбіраюць за іх»​

Вячорка: Сумная праўда. Напрыклад, у Беларусі многім людзям не падабаецца выбіраць. Я бачыў ролі, як людзі прывозілі сваіх старых сваякоў за мяжу і прыводзілі ў супэрмаркеты, дзе 30 гатункаў сыру. І тыя старыя губляюцца і зьбягаюць. Усё жыцьцё ў іхнай краме было два гатункі сыру. Мы трацім шмат часу на выбар. Асартымэнт робіцца такім шырокім, розьніца паміж таварамі настолькі малая, што выбар робіцца вельмі дарагім.

Так, ёсьць людзі, якім страшна, што яны перастаюць выбіраць. Але гэта мізэрная меншасьць. Большасьць людзей, і ў Беларусі, і ў астатнім сьвеце, ня хочуць выбіраць. Ім камфортна, калі выбіраюць за іх.

Моладзь ня ходзіць на выбары. А нашто, хай машына выбера, машына лепш за мяне ведае, хто будзе лепшы кандыдат — Абама ці Трамп.

Дракахруст: Абама ці Трамп — гэта можа і Бог зь імі. А вось мужчыну выбіраць жанчыну, жанчыне — мужчыну, гею — гея — здавалася, што гэта і ёсьць асабістасьць чалавека, тоеснасьць. І гэта аддадзім машыне?

Вячорка: Выбар прэзыдэнта ці сэксуальнага партнэра — гэта ўсё роўна выбар. Людзям новай, дыгітальнай генэрацыі прасьцей, калі ім падкажуць. Ёсьць такая сацыяльная сетка Tinder — гэта самая папулярная сетка паводле працягласьці часу, які там праводзіць моладзь. Моладзь там сядзіць гадзінамі, днямі на працягу тыдня.

Tinder прапаноўвае вам тых, хто вам адпавядае паводле яго аналізу вашага профілю. І моладзі гэта прыемна, яна можа прысьвяціць больш часу больш прыемным рэчам. А Tinder ужо выбраў для іх партнэра для спатканьня.

Дзяўчына глядзіць на патэнцыйнага партнэра ў Tinder
Дзяўчына глядзіць на патэнцыйнага партнэра ў Tinder

Ідэі Гарары знайшлі адлюстраваньне ў сэрыяле «Чорнае люстэрка». Гэта стужка пра грамадзтва будучыні, дзе нельга выбіраць, дзе дакладна вызначаны час, колькі зь якім партнэрам ты пражывеш. І ты ня можаш ад гэтага адмовіцца.

Гэта, зразумела, антыўтопія. Але і ў кнізе Гарары, і ў артыкуле Фрыдмана блізкасьць гэтай антыўтопіі ўсё ж перабольшваецца.

Джэф Бэзас некалі сказаў — мы пераацэньваем зьмены, якія адбудуцца ў найбліжэйшыя пару гадоў, але недаацэньваем зьмены, якія адбудуцца на працягу 10 гадоў.

Мне здаецца, што рана панікаваць. Мне здаецца, што machine learning — саманавучаньне машыны — яшчэ не такое шырокае і ўсёахопнае. Альгарытмы пакуль усё ж наладжваюцца чалавекам. Альгарытм Фэйсбуку, як рэцэпт пірагу, вызначаецца людзьмі Цукерберга. Не машына задае альгарытм, колькі павінна быць вашых лайкаў, якое і ў чым павіннае быць падабенства, каб прапанаваць вам тавар ці фрэнда. «Інгрыдыенты», спосаб падліку задаецца чалавечымі ручкамі. Вось калі машына будзе сама сябе вучыць, сама распрацоўваць альгарытмы і іх імплемэнтацыю — тады можна будзе біць трывогу. Але гэта не пытаньне бліжэйшага дзесяцігодзьдзя.

Умяшаньне ў выбары — у 2016-м і заўжды

Дракахруст: А зараз — крыху бліжэй да палітыкі. Мы бачылі гэтую сытуацыю з расейскім умяшаньнем. Летась на слуханьнях у Сэнаце, калі Цукербэрга сэнатары спыталі, ці маглі расейцы паўплываць на вынік выбараў, сэнс ягонага адказу быў — гэта лухта.

Марк Цукербэрг дае паказаньні на слуханьнях у Сэнаце ЗША, 10 красавіка 2018
Марк Цукербэрг дае паказаньні на слуханьнях у Сэнаце ЗША, 10 красавіка 2018

Але прайшло некалькі месяцаў, і ім давялося прымаць меры. ФБ, Твітэр блякуюць мноства акаўнтаў. Але хіба можна стрымаць гэты паток такімі забараняльнымі мэтадамі? Ну вось злавілі за руку расейцаў. Але гэтыя тэхналёгіі можа ўжываць хто заўгода. Напрыклад, уласна амэрыканскія актары, палітычныя актывісты, кібэр-актывісты. Напэўна, яны гэта і рабілі. На расейцах проста ўсё засяродзілася, бо прадстаўнікі замежнай дзяржавы і ня надта для Амэрыкі дружалюбнай.

І ў межах лёгікі менавіта дыгітальнай эпохі ўзьнікае пытаньне — няўжо пры дапамозе такой банальнай цэнзуры можна справіцца з такой пагрозай? А хіба самі амэрыканцы ня могуць пры дапамозе такіх атакаў падрываць уласную сыстэму, уласную дэмакратыю?

Вячорка: Калі казаць шчыра, то першым, хто пачаў шырока выкарыстоўваць дыгітальныя тэхналёгіі і сацсеткі ў палітычнай кампаніі, быў Барак Абама ў 2008 годзе. Тады казалі, што гэта першая кампанія, зробленая сацыяльнымі сеткамі. І першапачынальнікамі тут былі зусім не Дональд Трамп і не расейцы зь іх умяшаньнем у амэрыканскія і эўрапейскія выбары.

Проста тэхналёгіі разьвіліся і кошт іх выкарыстаньня стаў меншым. Умяшаньне ў выбары 2016 году спарадзіла вельмі важную дыскусію. І гэта не дыскусія пра ўмяшальніцтва. Умешваліся ўсе і заўсёды. Заўсёды існавалі інстытуты публічнай дыпляматыі, шпіёны з усіх бакоў...

Былы прэзыдэнт ЗША Барак Обама
Былы прэзыдэнт ЗША Барак Обама

Дракахруст:...заўжды працавалі прапагандысты і спэцыялісты псыхалягічнай вайны.

Вячорка: Так, і яны. Заўсёды закідаліся розныя «качкі». Нічога не памянялася, акрамя спосабу выкананьня.

Але зьмястоўная дыскусія цяпер круціцца вакол тэмы асабістых дадзеных. І вось тут ёсьць праблема — наколькі мы гатовыя аддаваць нашыя прыватныя дадзеныя сыстэме, ці мы маем права на забыцьцё, як гэта можна рэгуляваць, хто можа валодаць гэтымі дадзенымі — дзяржава ці прыватныя карпарацыі?

Ці можа Трамп пакараць Цукербэрга за тое, што ён адвольна карыстаецца дадзенымі пра 2 мільярды чалавек?

Гэта важна ня ў сэнсе спрэчкі, ці будуць намі кіраваць машыны, а ў куды больш практычным сэнсе геапалітычнага суперніцтва. Мы цяпер на мяжы глябальнага канфлікту. І неабавязкова ён будзе з ракетамі, танкамі і самалётамі. Адбываецца перагляд сусьветнай сыстэмы ўплываў.

І тут такі чыньнік, як асабістыя дадзеныя, права і магчымасьць імі валодаць, можа вызначыць пераможцу.

Магчыма, канфлікт будучыні і будзе такім, якім ён ужо пачаўся паміж Кітаем, Расеяй і ЗША. Магчыма, гэта ўжо і ёсьць вайна.

Ці выйграюць гульцы ў го ў шахматыстаў?

Дракахруст: У сваёй кнізе «Пра Кітай» Генры Кісынджэр пісаў, што ўлюбёныя гульні народаў адпавядаюць іх стылю стратэгічнага бачаньня. У эўрапейцаў, у расейцаў, у амэрыканцаў самая папулярная гульня — шахматы. Прынцып гульні — атака, у ёй ёсьць лякалізаваная мэта — шах і мат каралю праціўніка. А ў кітайцаў улюбёная гульня — го. Там няма караля, няма мату. Мэта гульні — заваяваньне кантролю, даміноўнага ўплыву.

Матч чэмпіёна Паўднёвай Карэі па гульні ў го супраць кампутарнай праграмы AlphaGo, Сэўл, 10 красавіка 2016
Матч чэмпіёна Паўднёвай Карэі па гульні ў го супраць кампутарнай праграмы AlphaGo, Сэўл, 10 красавіка 2016

Так выглядае, што іх філязофія канфлікту, якая ўвасобленая ў го, больш адпавядае дыгітальнаму сьвету, чым «шахматная» філязофія эўрапейцаў, амэрыканцаў і расейцаў.

Вячорка: Вельмі трапнае назіраньне. На маіх вачах адбываліся дыскусіі паміж амэрыканцамі і кітайцамі наконт тэхналёгіяў і штучнага інтэлекту. Мушу сказаць, што кітайцы шмат у чым маюць перавагу. Яны пачалі інвэставаць у гэтыя тэхналёгіі даўным даўно. Яны перанакіравалі інтэлектуальныя рэсурсы на працу зь вялікімі дадзенымі і дыгіталам.

Амэрыканцы вельмі часта знаходзяцца ў пастцы сваіх каштоўнасьцяў і традыцыяў. Абама стварыў законы пра абарону асабістых дадзеных, а прыйшоў Трамп і фактычна скасаваў імплемэнтацыю гэтых законаў.

А ў кітайцаў кірунак не мяняўся дзесяцігодзьдзямі. І ў іх гэты кірунак быў сапраўды як у гульні го — нарошчваньне ўплыву. І яны ціха і няўхільна будуюць сваё сусьветнае дамінаваньне.

Прэзыдэнт Расеі Ўладзімер Пуцін і лідэр КНР Сі Цзінпін, 10 лістапада 2017
Прэзыдэнт Расеі Ўладзімер Пуцін і лідэр КНР Сі Цзінпін, 10 лістапада 2017

Цяпер, напрыклад, ёсьць сацыяльная сетка Tiktok, да якой падключаныя 800 мільёнаў чалавек па ўсім сьвеце, пераважна моладзь. Яна на 100% належыць КНР. І ў гэтай сеткі ёсьць дзьве вэрсіі — адна для Кітаю, іншая — для астатняга сьвету. І абедзьве вэрсіі зьбіраюць асабістыя дадзеныя. Дзякуючы адной невялікай аплікацыі адна дзяржава атрымлівае доступ да 800 мільёнаў мазгоў.

Якім чынам Пэкін скарыстаецца гэтымі дадзенымі — гэта пытаньне.

Камэнтаваць тут можна праз Facebook. Нам таксама можна напісаць на адрас radiosvaboda@gmail.com

XS
SM
MD
LG