7:50 Тристан Хари - бывший специалист по этике в Гугл и единственный голос совести в Кремниевой долине.
Вы оглядываетесь по сторонам и кажется, что мир сходит с ума. Нормально ли это?
Об этом должны знать все!
Все
в 2006 году восхищались Гугл и его разработкой
кроме хорошего сервиса, они сумели сделать и денежный станок
. ФБ тогда существовал около 2х лет, меня наняли придумать бизнес-модель ФБ. Он просит индустрию включать в свои продукты то, что он называет "этичным дизайном".
Редко инсайдеры индустрии говорят так открыто.
Многие думают, что Гугл это просто окно поиска, а ФБ - место, где можно быть вместе с друзьями, смотреть их фотки.
НО эти компании конкурируют за ваше ВНИМАНИЕ.
Многие называют это надзорным капитализмом, кот. наживается на слежке за ВСЕМИ.
Когда я работал на Гугл-gmail , мы много всего обсуждали
как будет выглядеть почт. ящик, какого он будет цвета...
Я сам почувствовали зависимость от электронной почты, и мне показалось удивительным, что никто не пробовал сделать gmail менее аддиктивной
аддиктивность — навязчивая потребность в повторении определённых действий, сопровождающаяся, в случае нарушения привычного для пациента графика, явно выраженными физиологическими и психологическими отклонениями, нетривиальным поведением и прочими нарушениями психики
, никто об этом не думал... Я чувствовал разочарование индустрией в целом. Казалось, что мы заблудились. Я думал, и решил сделать презентацию=призыв к действию. . 9:00 В презентации говорилось, что никогда в истории 50-ти дизайнеров
белых ребят в возрасте 20-35 лет в Калифорнии
не принимали решений, влияющих на 2 млрд людей! 2 млрд людей будут думать о том, о чем не планировали думать, т.к. дизайнер Гугл решил, что так будут работать уведомления на экране, когда вы просыпаетесь по утрам!
И, как Гугл, мы несем моральную ответственность за решение этой проблемы.
Я отправил эту презентацию 15-20 ближайшим коллегам в Гугл. На след день на работе я её увидел на большинстве ноутбуков на работе, её читало на след день около 400 зрителей. Я получал письма согласия. Об этом рассказали Ларри Пейджу, и это спровоцировало культурный момент: Гугл должен был принять это всерьёз.
А потом - НИЧЕГО!
18:20 Все, что мы когда-либо делали - все клики, лайки - всё это помогает построению всё более точной модели. Как только она будет построена, м.б. предсказать поведение человека.
Цели:
- захватить ваше внимание. чтобы повысить время сессии
- роста; заставить вас вернуться и пригласить друзей, которые затем пригласят своих друзей
- рекламная цель - за все ваши действия приносить макс. денег с рекламы
Каждая из этих целей основана на алгоритмах, задача которых - найти что показать вам, и чтобы эти цифры увеличивались!
23:00 Фокусники были первыми нейробиологами и психологами, они поняли как работает человеч. разум, они в реальном времени испытывают на людях свои подходы. Фокусники понимают кое-что, какую-то часть вашего восприятия, в которой мы не в курсе - вот почему их иллюзии работают. Люди не знают насколько уязвим их собственный разум.
Этот подход может помочь совсем по-другому посмотреть на воздействие IT продуктов. Этому мы учились в лаборатории технологии убеждения в Стенфорде: как можно использовать комплексные знания психологии убеждения и встраивать их в ТЕХНОЛОГИИ.
24:17 Убедительные технологии - это просто дизайн, доведенный до крайности с целью изменить чьё-то поведение.
24:40 Ты не знаешь когда получишь награду или вообще что-то получишь. Это принцип игровых автоматов в Вегасе. Мне надо ВНЕДРИТЬ в вас бессознательную привычку!
28:40 Мы направляем движки этих ИИ на самих себя, чтобы перестроить триггеры, вызывающие у нас реакцию. Это как стимулировать нервные клетки паука, чтобы увидеть на что будут реагировать его лапы. Т.е. это настоящий тюремный эксперимент, в котором людей банально включают в матрицу и собирают деньги и данные с их деятельности в сети ради наживы. А мы даже не в курсе, что это происходит!
29:21 Никто не расстроился, когда появились велосипеды, это не разрушило общество.
Если что-то является инструментом, то оно просто терпеливо ждет своего часа. Но если это что-то не инструмент, оно требует от вас чего-то, соблазняет вас, манипулирует, хочет чего-то от вас.
Мы перешли от технологической среды, основанной на инструментах, к среде, основанной на зависимости и манипуляциях.
Вот что изменилосю. Соц. сети не инструмент, кот. ждет когда им воспользуются. У них есть свои цели и свои средства для их достижения через использование вашей психологии против вас самих.
31:48 Я наверно больше всего зависим от своей почты.
37:51 Эти технологические продукты не были созданы детскими психологами, целью которых было защитить и воспитать детей. Эти алгоритмя создавались так, чтобы заставить вас сделать какое-то действие. И еще: контроль над их (детей) вниманием - соцсети проникают все больше в мозг, влияют на чувство собственного достоинства и самооценку детей (... тратят время на селфи и красивые фильтры).
38:54 Эволюционное развитие способствовало тому, что нас волнует. Что о нас думают члены нашего племени - это важно. Но разве эволюция готовила нас к тому, что мы будем знать что о нас думает 10000 чел.? Эволюция не предусмотрела, что нас будут пичкать общественным одобрением каждые 5 мин. Строение нашего мозга совсем не предусматривает такого. Мы организовываем свои жизни вокруг этого ложного ощущения совершенства, т.к. получаем вознаграждение в виде сигналов — сердечек, лайков, и для нас они представляют ценность.
42:30 Я не знаю людей, которые хотят, чтобы из дети рости, манипулируемыми тех. дизайнерами. Раньше у нас были защитные механизмы (утром, когда дети см. мультики, не запускали определенную рекламу). Теперь все детишки сидят на детском ЮТУБ, и все меры предосторожности и правила просто исчезли.
Мы воспитываем новое поколение людей, которым, когда им одиноко, неудобно, неуютно, получают цифровую соску, которая атрофирует их способности справляться с этими состояниями.
44:15 В фотошоп не было тыс инженеров по ту сторону экрана, использовавших уведомления ваших друзей и идеально считывающего, что вас на него подсадят, или дающего рекламодателям идеально проверить на вас 60 тыс вариантов, чтобы понять как идеально манипулировать вашим разумом.... Это совершенно новый вид силы и влияния.
44:53 Некоторые дюди говорят. что мы научимся жить с новыми девайсами, как мы научились жить со всеми остальными. Но мы имеем дело с чем-то совершенно новым.
46:07 Внутри вас мозг, которому миллионы лет.
53:41 мы все ждали того момента, когда технология превзойдет человеческий интеллект, когда она достигнет сингулярности, заменит нашу работу, станет умнее нас.
Но есть более ранний момент: когда технология превосходит человеч. слабости. Эта точка пересечения лежит в основе зависимости, поляризации, радикализации, тщеславии, разжигании ненависти и пр.
Это подавляет человеч. природу.Это шах и мат человечеству.
56:00 Даже очень близкие люди с одним кругом интересов видят в ФБ разные посты, разные миры.
1:03:05 Это бизнес-модель "Дезинформация ради прибыли".
В лентах ФБ триллионы постов. Что там правда - ФБ не знает, поэтому все критично.
1:08:28 Если я хочу манипулировать выборами, я могу зайти в группу по теории заговоров на ФБ, и найти сотню людей. которые верят, что Земля плоская, и что наша высадка на Луне - теория заговора. Дольше я попрошу ФБ дать мне тысячу людей, которые верят в такие вещи, и у меня появится куда адресов. по которым я могу отправлять еще больше инфы по теории заговора.
1:11:33 Мы в технологической индустрии создали инструменты, дестабилизирующие и разрушающие структуру общества. В каждой стране одновременно.
1:14:12 Мы хотим разжигать культурные войны?
1:14:56 Нам нужно общее понимание реальности.
1:15:49 Если мы не договоримся о том. что правда, и что правда существует - нам конец! В этом заключается основная проблема. Если нельзя прийти к согласию что есть правда - не получится решить остальные проблемы.
1:15:58 Это касается всех, даже если вы не пользуетесь этими продуктами. Эти штуки стали цифровыми Франкенштейнами, изменяющими мир по своему усмотрению, будь то психическое здоровье детей, или наша политика и политический дискурс.
1:17:27 Рассматривать технологию как экзистенциальную угрозу - серьёзное заявление. Вот вы думаете - где угроза. если я посмотрю еще одно видео?
Дело в способности технологии пробуждеть самое плохое в обществе.
Если технология спровоцирует массовый хаос, возмущение, невежество, отсутствие доверия друг к другу, одиночество, отчуждение, поляризацию, очередной популизм, отвлекать и не позволять сосредоточиться на реальных проблемах, то пострадает общество. Именно тогда общество потеряет способность самоисцеляться и погрузится в хаос.
1:19:13 Я считаю, ПЛАТФОРМА должна отвечать за свои действия. Когда рекламируют выборы, мы обязаны защищать выборы. Когда они могут повлиять на психическое здоровье детей, они должны защищать детей. Гонка за внимание людей никуда не уйдет. Технологии будут все более интергироваться в нашу жизнь и будут все лучше угадывать что нас будет задерживать перед экраном. Хуже в этих моментах они не станут.
1:21:14 Как выйти из матрицы, когда ты не знаешь, что ты в матрице?
1:21:34 Многое из того, что мы говорим, звучит как мрачный приговор. Но нет, Технологии - это одновременно и утопия, и антиутопия.
1:22:45 Я это вижу как кучку людей, попавших в ловушку бизнес-модели.
1:29:09 Мы должны всё изменить.