Расчет справедливости для систем машинного обучения с сохранением конфиденциальности: благодарности и ссылки
4 января 2024 г.:::информация Этот документ доступен на arxiv по лицензии CC BY 4.0 DEED.
Авторы:
(1) Эхсан Торейни, Университет Суррея, Великобритания;
(2) Марьям Мехрнежад, Лондонский университет Ройал Холлоуэй;
(3) Аад Ван Мурсел, Бирмингемский университет.
:::
Таблица ссылок
Справочная информация и сопутствующая работа
Анализ внедрения и производительности
Признание
Авторы этого проекта финансировались за счет гранта EPSRC Великобритании «FinTrust: Trust Engineering for the Financial Industry» под номером гранта EP/R033595/1 и гранта EPSRC Великобритании «АГЕНТСТВО: Обеспечение гражданского агентства в мире со сложным онлайн-вредом» под номером грант EP/W032481/1 и Национальный центр передового опыта PETRAS в области кибербезопасности систем Интернета вещей, который финансируется EPSRC Великобритании по номеру гранта EP/S035362/1.
Ссылки
[1] Филип Адлер, Кейси Фальк, Сорель А. Фридлер, Тионни Никс, Габриэль Райбек, Карлос Шайдеггер, Брэндон Смит и Суреш Венкатасубраманиан. Аудит моделей «черного ящика» на предмет косвенного влияния. Знания и информационные системы, 54(1):95–122, 2018.
[2] Элейн Анджелино, Николас Ларус-Стоун, Дэниел Алаби, Марго Зельцер и Синтия Рудин. Изучение достоверно оптимальных списков правил для категориальных данных. Препринт arXiv arXiv:1704.01701, 2017.
[3] Мухаммад Аджмал Азад, Самиран Бэг, Саймон Паркинсон и Фэн Хао. Trustvote: рейтинг узлов в автомобильных сетях с сохранением конфиденциальности. Журнал IEEE Internet of Things, 6(4):5878–5891, 2018.
[4] Оливье Бодрон, Пьер-Ален Фук, Давид Пуэнчеваль, Жак Штерн и Гийом Пупар. Практическая система выборов с участием нескольких кандидатов. В материалах двадцатого ежегодного симпозиума ACM по принципам распределенных вычислений, страницы 274–283, 2001 г.
[5] Александра Чульдехова. Справедливое предсказание с разным воздействием: исследование предвзятости в инструментах прогнозирования рецидивизма. Большие данные, 5(2):153–163, 2017.
[6] Сэм Корбетт-Дэвис, Эмма Пирсон, Ави Феллер, Шарад Гоэль и Азиз Хук. Алгоритмическое принятие решений и цена справедливости. В материалах 23-й Международной конференции ACM SIGKDD по обнаружению знаний и интеллектуальному анализу данных, страницы 797–806. АКМ, 2017.
[7] Рональд Крамер, Иван Дамгард и Берри Шенмейкерс. Доказательства частичной осведомленности и упрощенная конструкция протоколов сокрытия свидетелей. В Ежегодной международной конференции по криптологии, страницы 174–187. Спрингер, 1994 г.
[8] Крейг Э. Кэрролл и Ровена Олегарио. Пути к корпоративной ответственности: корпоративная репутация и ее альтернативы. Журнал деловой этики, 163(2):173–181, 2020 г.
[9] Майкл Фельдман, Сорель А. Фридлер, Джон Мёллер, Карлос Шайдеггер и Суреш Венкатасубраманиан. Сертификация и устранение разнородного воздействия. В материалах 21-й Международной конференции ACM SIGKDD по обнаружению знаний и интеллектуальному анализу данных, страницы 259–268. АКМ, 2015.
[10] Амос Фиат и Ади Шамир. Как проявить себя: Практические решения проблем идентификации и подписи. На конференции по теории и применению криптографических методов, страницы 186–194. Спрингер, 1986.
[11] Сорель А. Фридлер, Карлос Шайдеггер и Суреш Венкатасубраманиан. О (не) возможности справедливости. Препринт arXiv arXiv:1609.07236, 2016.
[12] Риккардо Гвидотти, Анна Монреале, Сальваторе Руджери, Франко Турини, Фоска Джаннотти и Дино Педрески. Обзор методов объяснения моделей черного ящика. Обзоры вычислительных систем ACM (CSUR), 51(5):1–42, 2018 г.
[13] Фэн Хао, Мэтью Н. Кригер, Брайан Рэнделл, Дилан Кларк, Сиамак Ф. Шахандашти и Питер Хюн-Джин Ли. Каждый голос имеет значение: обеспечение честности при крупномасштабном электронном голосовании. В 2014 г. Семинар/семинар по технологиям электронного голосования/семинар по честным выборам (EVT/WOTE 14), 2014 г.
[14] Фэн Хао, Питер Я. Райан и Петр Зелински. Анонимное голосование путем публичного обсуждения в два тура. Информационная безопасность ИЭПП, 4(2):62–67, 2010 г.
[15] Мориц Хардт, Эрик Прайс, Нати Сребро и другие. Равенство возможностей в контролируемом обучении. В книге «Достижения в области нейронных систем обработки информации», страницы 3315–3323, 2016 г.
[16] Хуэй Ху, Ицзюнь Лю, Чжэнь Ван и Чао Лань. Распределенная среда машинного обучения с защитой частных демографических данных. На Международной конференции IEEE по интеллектуальному анализу данных (ICDM) 2019 г., страницы 1102–1107. IEEE, 2019 г.
[17] Мэтью Ягельски, Майкл Кирнс, Цземинг Мао, Алина Опря, Аарон Рот, Саид Шарифи-Мальваджерди и Джонатан Ульман. Дифференциально частное справедливое обучение. На Международной конференции по машинному обучению, страницы 3000–3008. ПМЛР, 2019.
[18] Джонатан Кац и Иегуда Линделл. Введение в современную криптографию. ЦРК пресс, 2014.
[19] Ники Килбертус, Адриа Гаскон, Мэтт Каснер, Майкл Вил, Кришна П. Гуммади и Адриан Веллер. Слепое правосудие: справедливость с зашифрованными конфиденциальными атрибутами. На 35-й Международной конференции по машинному обучению, страницы 2630–2639. ПМЛР, 2018.
[20] Джефф Ларсон, Сурья Матту, Лорен Киршнер и Джулия Ангвин. Как мы анализировали алгоритм рецидива КОМПАС. ProPublica (5 2016), 9(1), 2016.
[21] Цзячэн Лю, Фэй Юй и Лисинь Сун. Систематическое исследование исследовательских публикаций, в которых использовались данные панельного обследования медицинских расходов (MEPS), с использованием библиометрического подхода. Библиотечный Хай-тек, 2020.
[22] Скотт М. Лундберг и Су-Ин Ли. Единый подход к интерпретации прогнозов модели. Достижения в области нейронных систем обработки информации, 30, 2017.
[23] Арва Махдави. Это не просто A-level — алгоритмы имеют новую кошмарную власть над нашей жизнью. The Guardian, 2020 г.
[24] Арвинд Нараянан. Учебное пособие по переводу: 21 определение справедливости и их политика. В Proc. Конф. Fairness Accountability Transp., Нью-Йорк, США, 2018 г.
[25] Сесилия Панигутти, Алан Перотти, Андре Паниссон, Паоло Бахарди и Дино Педрески. Фэрленс: Аудит систем поддержки клинических решений «черного ящика». Обработка информации и усиление; Менеджмент, 58(5):102657, 2021.
[26] Сесилия Панигутти, Алан Перотти и Дино Педрески. Доктор Хаи: основанный на онтологии подход к объяснению последовательной классификации данных «черного ящика». В материалах конференции 2020 года по вопросам справедливости, подотчетности и прозрачности, страницы 629–639, 2020 г.
[27] Сэром Пак, Сонмин Ким и Ён Суп Лим. Аудит честности моделей машинного обучения с конфиденциальными вычислениями. В материалах веб-конференции ACM 2022, страницы 3488–3499, 2022 г.
[28] Рейтер. Amazon отказался от инструмента подбора персонала с использованием искусственного интеллекта, который отдавал предпочтение мужчинам на технических должностях. The Guardian, 2018 г.
[29] Шахар Сигал, Йоси Ади, Бенни Пинкас, Карстен Баум, Хая Ганеш и Джозеф Кешет. Справедливость в глазах данных: сертификация моделей машинного обучения. В материалах конференции AAAI/ACM 2021 года по искусственному интеллекту, этике и обществу, страницы 926–935, 2021 г.
[30] Кенг Сиау и Вэйю Ван. Укрепление доверия к искусственному интеллекту, машинному обучению и робототехнике. Журнал бизнес-технологий Cutter, 31(2):47–53, 2018.
[31] Дуглас Роберт Стинсон и Маура Патерсон. Криптография: теория и практика. ЦРК пресс, 2018.
[32] Эхсан Торейни, Мхайри Эйткен, Ковила Купамооту, Карен Эллиотт, Карлос Гонсалес Селайя и Аад ван Мурсел. Связь между доверием к искусственному интеллекту и заслуживающими доверия технологиями машинного обучения. В материалах конференции 2020 г. по вопросам справедливости, подотчетности и прозрачности, стр. 272–283, 2020 г.
[33] Майкл Вил и Рубен Биннс. Более справедливое машинное обучение в реальном мире: смягчение дискриминации без сбора конфиденциальных данных. Большие данные и усиление; Общество, 4(2):2053951717743530, 2017.
[34] Тонг Ван, Синтия Рудин, Финале Доши-Велес, Имин Лю, Эрика Клампфл и Перри МакНил. Байесовская структура для изучения наборов правил для интерпретируемой классификации. Журнал исследований машинного обучения, 18(1):2357–2393, 2017.
[35] Цян Ян, Ян Лю, Тяньцзянь Чен и Юнсинь Тонг. Федеративное машинное обучение: концепция и приложения. Транзакции ACM в интеллектуальных системах и технологиях (TIST), 10(2):1–19, 2019 г.
Оригинал