В прошлом месяце программа исследований и разработок в области сетевых и информационных технологий (NITRD) отметила свое 30-летие в Вашингтоне, округ Колумбия. Вы можете прочитать полный отчет о мероприятии. здесь. Чтобы подчеркнуть влияние федеральных инвестиций на научно-исследовательское сообщество в области вычислительной техники, на мероприятии было организовано пять панелей, на которых участники обсудили ключевые достижения в этой области за последнее десятилетие и будущие направления развития. Каждая панель была посвящена важной области компьютерных исследований: масштабируемым вычислениям, сетям и безопасности, искусственному интеллекту/машинному обучению, конфиденциальности и Интернету вещей, а также социально ответственным вычислениям.
Конфиденциальность стала огромной темой для разговоров не только в сообществе компьютерных исследователей, но и во всех дисциплинах как в академических кругах, так и в промышленности. Неблагоприятные последствия для конфиденциальности, связанные с наличием крупномасштабных наборов данных, умножаются на взаимосвязанные датчики, устройства и исполнительные механизмы составляющих Интернет вещей (IoT). Модерируется Чарльз («Чак») Ромайн (NIST) с участием полевых экспертов Эда Фелтена (Принстон), Марка Громана (Groman Consulting), Катерины Мегас (NIST) и Суну Парк (Корнелл), На панели 4: Конфиденциальность и Интернет вещей обсуждаются такие важные темы, как компромиссы между использованием данных и конфиденциальностью, а также потенциальные цели исследований, которые помогут найти эффективные политические решения.
Ромайн начал с того, что выделил общую тему всех панелей: «говоря как о преимуществах, так и о исключительных возможностях, предоставляемых инвестициями из федерального финансирования, а также о связанных с этим рисках». Интернет вещей ничем не отличается, он дает людям доступ к недоступной информации, позволяет проводить успешные рекламные кампании и адаптировать технологии к вашим личным предпочтениям, но также ставит под угрозу конфиденциальность пользователей.
Как отметил Мегас: «Вся причина, по которой мы предпринимаем эти усилия, заключается в том, что мы хотим иметь возможность действительно увидеть признание IoT и чтобы общество могло пожинать плоды». Далее она рассказала о потенциальных преимуществах и важности возможности обмена данными через Интернет вещей. Существует «феноменальный» масштаб устройств в IoT, которые можно использовать для выявления проблем в наборах данных, изучения вещей, которые имеют большой потенциал воздействия на отдельных людей и общество, обучения технологиям искусственного интеллекта и предоставления небольшим инновационным компаниям возможности тестировать свои устройства. Ромайн спросил участников дискуссии, каковы на самом деле связанные риски для конфиденциальности в контексте IoT и обмена информацией.
Громан ответил, сначала объяснив взаимосвязь между конфиденциальностью и IoT. Сторона конфиденциальности IoT — это подмножество данных в более широком наборе собираемых данных, которые касаются людей или относятся к ним. Знают ли люди, что о них собираются данные? Есть ли интерфейс, где вы можете взаимодействовать с устройством, узнать, что оно собирает или изменить? Понимают ли люди, какая информация собирается или какие выводы делает устройство или компания на основе собираемых данных? Из-за структуры денежного стимулирования и «огромного» количества многих компаний, которые могут извлечь выгоду из таких данных, Громан призвал людей обратиться к политике за решением.
«Цель здесь состоит в том, чтобы максимизировать пользу и минимизировать вред. В этой стране у нас нет политической, правовой или нормативной базы, которая создавала бы стимулы для достижения этой цели», — Марк Громан.
Противодействуя позиции Громана, Ромайн спросил комиссию о потенциале технологического решения.
Фелтен предложил начать с поиска лучшего понимания и применения контроля статистической информации и создания инструментов, позволяющих людям взаимодействовать со своими данными и смягчать негативные последствия. Парк, проявляющий особый интерес к криптографическим инструментам конфиденциальности, назвал несколько способов, которыми криптография может помочь в этом отношении.
«Криптография предоставляет набор инструментов для создания систем, которые имеют конфигурации информационных потоков и включают более детальный контроль над доступом». - Суну Парк
Одним из инструментов может быть доказательство с нулевым разглашением, которое позволяет частично обмениваться данными, сохраняя при этом другие аспекты в секрете от организаций. Она привела пример вышибалы, проверяющей удостоверения личности, чтобы попасть в бар — с помощью доказательств с нулевым разглашением вы можете доказать, что вам 21 год, не сообщая свой адрес или день рождения, также указанные в удостоверении личности.
Парк предупредил, что, хотя криптография предоставляет «более широкое пространство для решений, которое мы можем использовать для создания конфиденциальности», она не отвечает на вопрос о том, какие вещи мы должны создавать с помощью этих инструментов или какие формы информации мы считаем уместными или желательными для обмена. Это то, что мы должны решить как общество и вопрос политики.
Наконец, участников дискуссии спросили, почему людей это должно волновать. Что, если им нечего скрывать? Вызвав смех толпы, Фельтен пошутил, что каждому есть что скрывать. В более серьезной заметке он продолжил подчеркивать потенциальный вред профилирования данных.
«Люди строят всеобъемлющую модель того, кто вы и что вы, вероятно, будете делать». — Эд Фельтен
Уже ужасающая мысль, эти предположения могут быть ошибочными и иногда ограничивать возможности и «свободу действий» в будущем. Громан указал на еще одну общую черту дискуссий в группах – важность осознания того, что некоторые сообщества подвергаются несоразмерному воздействию. Ставки могут быть выше, чтобы сохранить конфиденциальность некоторых данных, будь то данные о сексуальной ориентации, поле, расе или о женщинах или детях, подвергшихся насилию.
Во время вопросов и ответов бывший спикер панели 3 Бен Зорн вернулся к преимуществам использования данных для обучения ИИ. Он спросил, что можно сделать с утечкой частной информации через наборы данных, используемые для обучения ИИ.
Фелтен указал, что если вы не используете строгий метод, чтобы намеренно остановить просачивание информации, то информация будет течь. Вот почему так важно сосредоточиться на создании строгих и доказуемых методов таких вещей, как машинное обучение с сохранением конфиденциальности и интерфейсов для контроля эффекта просачивания.
Мегас прекрасно подытожил, что, в конце концов, мы не можем обучить всех, но мы можем предоставить людям основу, которая позволит им думать о риске, и предоставить им инструменты, дающие им больший контроль над своими данными. Полную запись вы можете посмотреть на веб-страница ССС или Канал NITRD на YouTube.
Следите за заключительным блогом серии «Панель 5: Как технологии могут принести пользу обществу: расширение перспектив в фундаментальных исследованиях».
