Содержание
В эпоху нейрокапитализма вашему мозгу нужны новые права.
Поделитесь этой историей + Эта история является частью группы историй под названием
Поиск наилучших способов творить добро.
«Ничто не было твоим собственным, кроме нескольких кубических сантиметров внутри твоего черепа». Это из антиутопического романа Джорджа Оруэлла «1984», опубликованного в 1949 году. Комментарий призван подчеркнуть, в каком репрессивном состоянии наблюдения живут персонажи, но, взглянув на это с другой стороны, он показывает, насколько им повезло: по крайней мере, их мозги по-прежнему являются частными.
За последние несколько месяцев Facebook и Neuralink Илона Маска объявили, что они разрабатывают технологию, позволяющую читать ваши мысли — буквально.
Компания Марка Цукерберга финансирует исследования интерфейсов мозг-компьютер (BCIS), которые могут улавливать мысли непосредственно от ваших нейронов и переводить их в слова. Исследователи говорят, что они уже создали алгоритм, который может декодировать слова по активности мозга в реальном времени.
И компания Маска создала гибкие «нити», которые могут быть имплантированы в мозг и однажды позволят вам управлять своим смартфоном или компьютером с помощью только ваших мыслей. Маск хочет начать тестирование на людях к концу следующего года.
Другие компании, такие как Kernel, Emotiv и Neurosky, также работают над технологией мозга. Они говорят, что строят его в этических целях, например, помогают людям с параличом управлять своими устройствами.
Это может звучать как научная фантастика, но это уже начало менять жизнь людей. За последние десять лет ряд парализованных пациентов получили мозговые имплантаты, которые позволяют им перемещать компьютерный курсор или управлять роботизированными руками. Имплантаты, способные читать мысли, все еще находятся на расстоянии многих лет от коммерческой доступности, но исследования в этой области продвигаются быстрее, чем большинство людей осознает.
Ваш мозг, последний рубеж конфиденциальности, может больше не оставаться частным.
Некоторые специалисты по нейроэтике утверждают, что потенциал неправильного использования этих технологий настолько велик, что нам нужны обновленные законы о правах человека — новая «юриспруденция разума» — для нашей защиты. Технологии потенциально могут нарушать права, которые настолько фундаментальны, что мы можем даже не думать о них как о правах, например, о нашей способности определять, где заканчивается наше «я» и начинаются машины. Наши нынешние законы не приспособлены для решения этой проблемы.
4 новые права, которые нам могут понадобиться, закрепленные в законе
Несколько стран уже размышляют о том, как справиться с «нейрорадарами». В Чили, отчасти благодаря поддержке нейробиолога Рафаэля Юсте, правительство в октябре согласилось оказать официальную поддержку программе нейропротекции, которая сделает защиту данных мозга правом человека. В Европе ОЭСР приняла в декабре набор из девяти новых принципов регулирования использования данных мозга — первый международный стандарт в этой области.
Одним из главных людей, отстаивающих эти новые права человека, является специалист по нейроэтике Марчелло Иенка, исследователь из ETH Цюриха, одного из ведущих научно-технических университетов Европы. В 2017 году он опубликовал документ, в котором излагаются четыре конкретных права для эпохи нейротехнологий, которые, по его мнению, мы должны закрепить в законе. Я протянул руку, чтобы спросить, что он думает о недавних откровениях из Facebook и Neuralink.
«Я очень обеспокоен коммерциализацией данных о мозге на потребительском рынке», — сказал он. «И я не говорю о далеком будущем. У нас уже есть потребительские нейротехнологии, где люди обменивают данные своего мозга на услуги частных компаний «. Он упомянул нейрогейминг, когда вы управляете своими движениями в видеоигре, используя мозговую активность, а не традиционный контроллер, и самоконтроль, когда вы используете носимые устройства, чтобы, скажем, следить за своим сном. «Я испытываю искушение назвать это нейрокапитализмом».
Технология BCI включает в себя системы, которые «считывают» нейронную активность, чтобы расшифровать то, что она уже говорит, часто с помощью программного обеспечения для обработки искусственного интеллекта, и системы, которые «записывают» в мозг, предоставляя ему новые входные данные, чтобы фактически изменить его функционирование. Некоторые системы делают и то, и другое.
Когда я попросил Иенку объяснить каждое из четырех прав человека, которые, по его мнению, нам необходимы, и привести конкретный пример того, как нейротехнологии могут их нарушить, он предложил несколько пугающих сценариев, некоторые из которых уже реализуются. Давайте разберем их по полочкам.
1. Право на свободу познания
Вы должны иметь право свободно решать, хотите ли вы использовать данную нейротехнологию или отказаться от нее.
В Китае правительство уже извлекает данные из мозга некоторых сотрудников, заставляя их носить шапочки, которые сканируют их мозговые волны на предмет депрессии, тревоги, ярости или усталости. «Если ваш работодатель хочет, чтобы вы носили гарнитуру ЭЭГ для контроля уровня вашего внимания, это может квалифицироваться как нарушение принципа когнитивной свободы», — сказала Айенка, потому что даже если вам скажут, что носить устройство необязательно, вы, вероятно, почувствуете скрытое давление, чтобы сделать это, так как вы не хотите быть в невыгодном положении в конкурентной борьбе.
Он добавил, что американские военные также изучают нейротехнологии, чтобы сделать солдат более пригодными для службы. В дальнейшем это может включать способы сделать их менее чуткими и более воинственными. На солдат могут оказать давление, чтобы они согласились на вмешательство.
«Уже проводятся исследования, финансируемые военными, чтобы выяснить, можем ли мы отслеживать снижение уровня внимания и концентрации с помощью гибридных БКИ, которые могут «считывать» дефицит внимания и «записывать» в мозг, чтобы повысить бдительность посредством нейромодуляции. Есть проекты, финансируемые DARPA, которые пытаются это сделать», — сказал Иенка, ссылаясь на агентство передовых исследований Министерства обороны.
2. Право на неприкосновенность частной жизни
Вы должны иметь право хранить данные о своем мозге в секрете или публично делиться ими.
Иенка подчеркнул, что нейротехнологии имеют огромное значение для правоохранительных органов и государственного надзора. «Если устройства для чтения мозга будут способны считывать содержание мыслей, — сказал он, — в ближайшие годы правительства будут заинтересованы в использовании этой технологии для допросов и расследований».
Право хранить молчание и принцип против самообвинения, закрепленные в Конституции США, могут стать бессмысленными в мире, где власти уполномочены подслушивать ваше психическое состояние без вашего согласия.
Это сценарий, напоминающий научно-фантастический фильм «Отчет о меньшинствах», в котором специальное полицейское подразделение, называемое Отделом по расследованию преступлений, выявляет и арестовывает убийц до того, как они совершат свои преступления.
3. Право на психическую неприкосновенность
Вы должны иметь право на то, чтобы нейротехнологии не причиняли вам физического или психологического вреда.
БКИ, оснащенные функцией «записи», могут обеспечить новые формы промывания мозгов, теоретически позволяя всем видам людей осуществлять контроль над нашими умами: религиозным властям, которые хотят внушить людям, политическим режимам, которые хотят подавить инакомыслие, террористическим группам, ищущим новых рекрутов.
Более того, устройства, подобные тем, которые создаются Facebook и Neuralink, могут быть уязвимы для взлома. Что произойдет, если вы используете один из них, и злоумышленник перехватывает сигнал Bluetooth, увеличивая или уменьшая напряжение тока, поступающего в ваш мозг, — тем самым делая вас более подавленным, скажем, или более сговорчивым?
Нейроэтики называют это «взломом мозгов». «Это все еще гипотетически, но такая возможность была продемонстрирована в исследованиях, подтверждающих концепцию», — сказал Иенка, добавив: «Такой взлом не потребует такой большой технологической сложности».
4. Право на психологическую преемственность
Вы должны иметь право на защиту от изменений в вашем самоощущении, которые вы не санкционировали.
В одном исследовании женщина-эпилептик, которой сделали ИМК, почувствовала такой радикальный симбиоз с ним, что, по ее словам, «это стало мной». Затем компания, которая имплантировала устройство в ее мозг, обанкротилась, и она была вынуждена удалить его. Она плакала, говоря: «Я потеряла себя».
Иенка сказал, что это пример того, как психологическая преемственность может быть нарушена не только навязыванием нейротехнологии, но и ее удалением. «Это сценарий, в котором компания в основном владеет нашим самоощущением», » сказал он.
Еще одна угроза психологической преемственности исходит от зарождающейся области нейромаркетинга, где рекламодатели пытаются выяснить, как мозг принимает решения о покупке и как подтолкнуть эти решения. Толчки действуют ниже уровня сознательного осознания, поэтому эти неинвазивные нейронные вмешательства могут происходить без нашего ведома. В один прекрасный день нейромаркетинговая компания тестирует подсознательную технику; на следующий день вы можете обнаружить, что предпочитаете продукт А продукту В, не совсем понимая, почему.
Организации по защите прав потребителей подняли тревогу по поводу нейромаркетинга. Джефф Честер, исполнительный директор Центра цифровой демократии, сказал, что реклама для взрослых должна регулироваться, «если реклама теперь специально разработана для обхода тех рациональных защит», которые раньше позволяли нам различать, что является правдой, а что нет.
«Данные мозга — это окончательное убежище частной жизни»
Учитывая опасения по поводу нейрокапитализма, я спросил Ienca, следует ли вывести нейротехнологии из-под контроля частных компаний и классифицировать как общественные блага. Он сказал «да» — как для того, чтобы компании не причиняли вреда, так и для того, чтобы они не предоставляли льготы только богатым людям, которые могут платить за их продукцию.
«Один из рисков заключается в том, что эти технологии могут стать доступными только для определенных экономических слоев, и это усугубит существовавшее ранее социальное неравенство», — сказал он. «Я думаю, что государство должно играть активную роль в обеспечении того, чтобы эти технологии доходили до нужных людей».
Трудно сказать, будут ли нейрорайты Ienca, ОЭСР или Чили эффективно контролировать риски нейротехнологий. Но, учитывая, как быстро развивается эта технология, вполне вероятно, что нам понадобятся новые законы для нашей защиты, и сейчас настало время экспертам сформулировать наши права. Законодатели действуют медленно, и если мы будем ждать, пока такие устройства, как Facebook или Neuralink, появятся на рынке, может быть уже слишком поздно.
«Данные мозга — это окончательное убежище частной жизни. Когда это пройдет, все пройдет», — предупредила Йенка. «И как только данные о мозге будут собраны в больших масштабах, будет очень трудно повернуть процесс вспять».
Подпишитесь на рассылку новостей Future Perfect. Два раза в неделю вы будете получать обзор идей и решений для решения наших самых больших проблем: улучшения общественного здравоохранения, уменьшения страданий людей и животных, снижения катастрофических рисков и, проще говоря, улучшения в добрых делах.
Миллионы обращаются к Воксу, чтобы понять, что происходит в новостях. Наша миссия никогда не была более важной, чем в этот момент: расширять возможности через понимание. Финансовые взносы наших читателей являются важной частью поддержки нашей ресурсоемкой работы и помогают нам сохранить нашу журналистику бесплатной для всех. Пожалуйста, подумайте о том, чтобы сделать взнос в Vox сегодня всего за 3 доллара.
https://www.vox.com/2019/8/30/20835137/facebook-zuckerberg-elon-musk-brain-mind-reading-neuroethics
Загрузка...
