Британский наблюдатель за данными предупреждает о дискриминации в области нейротехнологий

Jan 26, 2024

Во-первых, людей беспокоила алгоритмическая предвзятость. Теперь они обеспокоены тем, что предвзятость ИИ увеличивает эту опасность. Но вскоре серьезной проблемой может стать предвзятость в нейротехнологиях — быстро разрастающейся области, в которую входят такие компании, как Neuralink Илона Маска и поддерживаемый Джеффом Безосом и Биллом Гейтсом конкурент, производитель мозговых имплантатов Synchron.

Регулятор защиты данных Великобритании, Управление комиссара по информации (ICO), сегодня заявило, что ожидает, что устройства, которые используют сигналы, поступающие от нервной системы, «станут широко распространенными в течение следующего десятилетия». Хотя исследователи уже используют мозговые имплантаты для борьбы с деменцией и помогают парализованным людям снова ходить, «нейротехнологии быстро развиваются для использования в секторах личного благополучия, спорта и маркетинга и даже для мониторинга людей на рабочем месте».

ICO опасается, что опасная предвзятость может закрасться в модели, разрабатываемые для чтения и интерпретации нейроданных, если устройства не будут оцениваться, в частности, на нейроотличных людях. Например, в нейротехнологических системах может быть заложено предположение, что определенные паттерны «нежелательны… [поэтому] тех, у кого есть эти паттерны, могут затем игнорировать при продвижении по службе или возможностях трудоустройства».

«Нейротехнологии собирают интимную личную информацию, о которой люди часто не подозревают, включая эмоции и сложное поведение. Последствия могут быть ужасными, если эти технологии будут разрабатываться или применяться ненадлежащим образом», — сказал руководитель агентства по регуляторным рискам Стивен Алмонд.

Компания Synchron уже проводит испытания своего мозгового имплантата на людях. Ранее в этом году компания заявила, что имплантат «оказался безопасным и позволил пациентам без помощи рук отправлять текстовые сообщения, электронную почту, совершать онлайн-банкинг и совершать покупки, а также сообщать о нуждах ухода, используя свои мысли». Neuralink, которая утверждает, что ее мозговой интерфейс «восстановит автономию тем, у кого есть неудовлетворенные медицинские потребности сегодня, и раскроет человеческий потенциал завтра», наконец, получила одобрение FDA на тестирование на людях пару недель назад.

Meta также в течение нескольких лет баловалась сферой мозговых интерфейсов под своим прежним видом Facebook, но отказалась от нее в 2021 году на том основании, что до потребительского оборудования, монтируемого на голове, еще далеко. Вместо этого было решено сосредоточиться на разработке носимого на запястье устройства, которое могло бы воспринимать сигналы электромоторных нервов — такого рода вещей, которые могли бы оказаться полезными для взаимодействия с метавселенной.

ICO считает, что именно такие носимые устройства через несколько лет получат реальную популярность на рынке, будучи интегрированными в фитнес-трекеры, развернутыми на рабочих местах и ​​используемыми для игр VR/AR.

Однако, если вы видели этот увлекательный твит нейротехнолога Стерлинга Криспина, который работал над гарнитурой Apple Vision Pro и описал ее как «грубый мозговой компьютерный интерфейс через глаза»… нет, ICO это не беспокоит. «Мы говорим о сборе данных непосредственно из мозга и нервной системы людей», — сказал мне представитель.

В ICO заявили, что к 2025 году выпустят конкретные рекомендации по нейроданным. Тем временем у них есть отчет по этому вопросу, который вы можете прочитать здесь.

Больше новостей ниже.

Хотите отправить мысли или предложения в Data Sheet? Напишите сюда.

Дэвид Мейер

Раздел ежедневных новостей Data Sheet был написан и курирован Андреа Гузман.

Google и Salesforce объединяются. После сотрудничества в области аналитики и больших данных в 2017 году технологические гиганты Salesforce и Google решили снова сотрудничать. Этот последний проект позволит компаниям использовать свои данные вместе со специальными моделями машинного обучения, чтобы предугадывать потребности своих клиентов. Он будет включать интеграцию облака данных Salesforce с BigQuery от Google и платформой Vertex AI, чтобы пользователи могли использовать любые модели искусственного интеллекта, которые они обучили в Vertex, на платформе Salesforce. Соглашение последовало за объявлениями Salesforce в этом году о новых инструментах искусственного интеллекта, таких как помощник по управлению взаимоотношениями с клиентами, известный как Einstein GPT, а также за тем, как Google отстает от Amazon и Microsoft на рынке облачной инфраструктуры в США, сообщает TechCrunch.