Вычислительное доверие
В информационной безопасности вычислительное доверие — это создание доверенных органов или доверия пользователей посредством криптографии . В централизованных системах безопасность обычно основана на подтверждении личности внешних сторон. Жесткие механизмы аутентификации, такие как инфраструктуры открытых ключей (PKI). [1] или Керберос , [2] позволили распространить эту модель на распределенные системы в нескольких тесно взаимодействующих доменах или в одном административном домене. В последние годы информатика перешла от централизованных систем к распределенным вычислениям. Эта эволюция имеет несколько последствий для моделей безопасности, политик и механизмов, необходимых для защиты информации и ресурсов пользователей во все более взаимосвязанной вычислительной инфраструктуре. [3]
Механизмы безопасности на основе идентификации не могут авторизовать операцию без аутентификации запрашивающего объекта. Это означает, что никакое взаимодействие не может произойти, если обе стороны не известны своим платформам аутентификации. Поэтому для спонтанных взаимодействий потребуется один или несколько доверенных центров сертификации (CA). В данном контексте PKI не рассматривается, поскольку у них есть проблемы. [ который? ] , поэтому маловероятно, что они станут эталонным стандартом в ближайшем будущем. Пользователь, желающий сотрудничать с другой стороной, может выбирать между включением безопасности и тем самым отключением спонтанного сотрудничества или отключением безопасности и включением спонтанного сотрудничества. Крайне важно, чтобы мобильные пользователи и устройства могли проходить аутентификацию автономно, не полагаясь на общую инфраструктуру аутентификации. Чтобы решить эту проблему, нам необходимо изучить проблемы, связанные с «глобальными вычислениями». [4] термин, придуманный ЕС для обозначения будущего глобального информационного общества и определения его влияния на безопасность.
Криптовалюты , такие как Биткойн , используют такие методы, как доказательство работы (PoW), для достижения вычислительного доверия внутри сети транзакций.
История [ править ]
Computational Trust применяет человеческое понятие доверия к цифровому миру, который рассматривается скорее как вредоносный, а не как кооперативный. Ожидаемые выгоды, по мнению Марша и др., приведут к использованию способностей других посредством делегирования, а также к расширению сотрудничества в открытой и менее защищенной среде. Исследования в области вычислительных механизмов доверия и репутации в виртуальных обществах направлены на повышение надежности и производительности цифровых сообществ. [5]
Решение на основе доверия в конкретном домене представляет собой многоэтапный процесс. Первый шаг этого процесса состоит в идентификации и выборе правильных входных данных, то есть свидетельства доверия. Как правило, они зависят от предметной области и выводятся на основе анализа, проведенного в соответствующем приложении . На следующем этапе на основе доказательств выполняется вычисление доверия для получения значений доверия, что означает оценку надежности объектов в этом конкретном домене. Выбор доказательств и последующее вычисление доверия основаны на понятии доверия, определенном в модели доверия. Наконец, решение о доверии принимается с учетом вычисленных значений и внешних факторов, таких как расположение или оценка риска .
доверия Определение
Эти концепции приобрели повышенную актуальность в последнее десятилетие в информатике, особенно в области распределенного искусственного интеллекта . Парадигма многоагентных систем и рост электронной коммерции повысили интерес к доверию и репутации. Фактически, системы доверия и репутации признаны ключевыми факторами электронной коммерции. Эти системы используются интеллектуальными программными агентами в качестве стимула при принятии решений, при принятии решения о том, следует ли соблюдать контракты, а также как механизм поиска надежных партнеров по обмену. В частности, репутация используется на электронных рынках как механизм укрепления доверия или как метод предотвращения мошенничества и мошенничества. [6]
Другая область применения этих концепций в агентных технологиях — командная работа и сотрудничество. [7] было предложено несколько определений человеческого понятия доверия. За последние годы в различных областях, от социологии , психологии до политической и бизнес-науки , Эти определения могут даже меняться в зависимости от области применения. Например, недавнее определение Романо [8] пытается охватить предыдущую работу во всех этих областях:
Доверие — это субъективная оценка влияния другого человека с точки зрения степени восприятия человеком качества и значимости влияния другого человека на свои результаты в данной ситуации, при этом ожидание, открытость и склонность к такому влиянию создают ощущение контроль над возможными последствиями ситуации.
Доверие и репутация имеют социальную ценность. Когда кто-то заслуживает доверия, от этого человека можно ожидать, что он будет действовать полезно или, по крайней мере, не подозрительно, что с высокой вероятностью гарантирует другим хорошее сотрудничество с ним. Напротив, когда кто-то не заслуживает доверия, другие воздерживаются от сотрудничества, поскольку существует более низкий уровень вероятности того, что это сотрудничество будет успешным. [9]
Доверие — это особый уровень субъективной вероятности, с которой агент оценивает, что другой агент или группа агентов выполнит определенное действие, как до того, как он сможет отслеживать такое действие (или самостоятельно, или в своей способности когда-либо быть в состоянии контролировать его), так и в контекст, в котором это влияет на его собственные действия.
Доверие тесно связано с уверенностью и подразумевает некоторую степень неопределенности, надежды или оптимизма. В конце концов, Марш [10] обратился к проблеме формализации доверия как вычислительной концепции в своей докторской диссертации. Его модель доверия основана на социальных и психологических факторах.
моделей Классификация доверия
В литературе появилось множество предложений, и здесь представлена подборка вычислительных моделей доверия и репутации, которые представляют собой хороший образец текущих исследований. [11]
Доверие и репутация можно анализировать с разных точек зрения и применять во многих ситуациях. Следующая классификация основана на особенностях этих моделей и среде, в которой они развиваются.
Концептуальная модель [ править ]
Модель доверия и репутации можно охарактеризовать как:
В моделях, основанных на когнитивном подходе, доверие и репутация состоят из основных убеждений и являются функцией степени этих убеждений. [12] Ментальные состояния, которые приводят к доверию другому агенту или присвоению репутации, являются важной частью модели, а также психические последствия решения и действия, основанного на доверии другому агенту;
В неврологических моделях доверия, основанных на неврологических теориях взаимодействия аффективных и когнитивных состояний, моделируются также на неврологическом уровне с использованием теорий воплощения эмоций. [13] В этих моделях динамика доверия связана с опытом взаимодействия с (внешними) источниками как с когнитивной, так и с аффективной точки зрения. Более конкретно, для ощущения эмоции, связанной с психическим состоянием, моделируются сходящиеся рекурсивные циклы тела. Кроме того, на основе обучения Хебба (для силы связей с эмоциональными реакциями) вводятся различные процессы адаптации, вдохновленные гипотезой соматических маркеров. [14]
Доверие и репутация рассматриваются как субъективные вероятности, согласно которым индивид А ожидает, что индивид Б выполнит данное действие, от которого зависит его благополучие. [15]
В этом подходе доверие и репутация являются не результатом психического состояния агента в когнитивном смысле, а результатом более прагматичной игры с функциями полезности и числовой агрегацией прошлых взаимодействий.
Источники информации [ править ]
Можно сортировать модели, рассматривая источники информации, используемые для расчета значений доверия и репутации. Традиционными источниками информации являются непосредственный опыт и информация свидетелей, но недавние модели начали учитывать связь между информацией и социологическим аспектом поведения агента. Когда модель содержит несколько источников информации, это может повысить надежность результатов, но, наоборот, может увеличить сложность модели.
Непосредственный опыт [ править ]
Непосредственный опыт является наиболее актуальным и надежным источником информации для модели доверия/репутации. Можно выделить два типа прямых переживаний:
- опыт, основанный на непосредственном взаимодействии с собеседником;
- опыт, основанный на наблюдаемом взаимодействии других членов сообщества.
Информация свидетеля [ править ]
Информация свидетелей, также называемая косвенной информацией, — это то, что исходит из опыта других членов сообщества. Он может быть основан на их собственном непосредственном опыте или на других данных, которые они собрали из опыта других. Информации о свидетелях обычно больше всего, но ее использование для моделирования доверия и репутации сложно. Фактически, это вносит неопределенность, и агенты могут манипулировать или скрывать части информации в своих интересах.
Социологическая информация [ править ]
Люди, принадлежащие к сообществу, устанавливают разные типы отношений. Каждый индивид играет в этом обществе одну или несколько ролей, влияя на свое поведение и взаимодействие с другими людьми. В мультиагентной системе, где существует множество взаимодействий, социальные отношения между агентами являются упрощенным отражением более сложных отношений их человеческих коллег. [16] Лишь немногие модели доверия и репутации принимают эту социологическую информацию, используя такие методы, как социальных сетей анализ . Эти методы исследования социальных отношений между индивидами в обществе возникли как совокупность методов анализа социальных структур, методов, специально позволяющих исследовать реляционные аспекты этих структур. [17]
Предрассудки и предвзятость [ править ]
Предрассудки – еще один, хотя и редкий, механизм, влияющий на доверие и репутацию. Согласно этому методу, человеку придаются свойства определенной группы, которые делают его членом. Это могут быть такие признаки, как униформа, определенное поведение и т. д. [18]
Сегодня большинство людей используют это слово, предрассудки относятся к негативному или враждебному отношению к другой социальной группе, часто определяемому по расовому признаку. Однако этот негативный смысл следует пересмотреть применительно к сообществам агентов. Набор признаков, используемых в вычислительных моделях доверия и репутации, обычно не подлежит этическому обсуждению, в отличие от знаков, используемых в человеческих обществах, таких как цвет кожи или пол.
Большая часть литературы по когнитивным и социальным наукам утверждает, что люди демонстрируют нерациональное, предвзятое поведение в отношении доверия. Недавно были разработаны, проанализированы и проверены на основе эмпирических данных модели предвзятого человеческого доверия. Результаты показывают, что такие предвзятые модели доверия способны прогнозировать человеческое доверие значительно лучше, чем непредвзятые модели доверия. [19] [20]
Обсуждение моделей доверия/репутации [ править ]
Наиболее значимыми источниками информации, рассматриваемыми моделями доверия и репутации , представленными ранее, являются непосредственный опыт и информация свидетелей. На электронных рынках социологическая информация практически отсутствует, и для повышения эффективности реальных моделей доверия и репутации ее следует учитывать. Однако нет смысла увеличивать сложность моделей, вводящих доказательства доверия, если в дальнейшем их придется использовать в среде, где невозможно реализовать их возможности. Объединение большего количества данных о доверии и репутации полезно в вычислительной модели, но может увеличить ее сложность, что затруднит выработку общего решения. Некоторые модели зависят от характеристик окружающей среды, и возможным решением может быть использование адаптивных механизмов, которые могут изменять способ объединения различных источников информации в данной среде. Было представлено множество определений доверия и репутации, и есть несколько работ, которые придают значение обеим концепциям. [21] [22] [23] [24]
Между обеими концепциями существует связь, которую следует рассмотреть более подробно: репутация — это концепция, которая помогает завоевать доверие других. В настоящее время теория игр является преобладающей парадигмой, используемой для разработки вычислительных моделей доверия и репутации. По всей вероятности, эта теория принимается во внимание, поскольку значительное количество экономистов и ученых-компьютерщиков, имеющих большой опыт в теории игр и методах искусственного интеллекта, работают в многоагентном контексте и в контексте электронной коммерции. Теоретико-игровые модели дают хорошие результаты, но могут оказаться непригодными, когда сложность агентов с точки зрения социальных отношений и взаимодействия возрастает и становится слишком ограничительной. Следует рассмотреть возможность исследования новых возможностей и, например, объединить когнитивные подходы с теоретико-игровыми. Кроме того, следует учитывать больше доказательств доверия, а также чувствительные ко времени показатели доверия . [25] [26] представляют собой первый шаг к повышению доверия к вычислениям. [27]
Важным вопросом моделирования доверия является возможность передачи суждений о доверии разными агентами. Социологи согласны считать безоговорочные ценности доверия непередаваемыми, но более прагматичный подход пришел бы к выводу, что квалифицированные суждения о доверии заслуживают переноса, поскольку решения, принятые с учетом мнения других, лучше, чем те, которые принимаются изолированно. В [28] авторы исследовали проблему передачи доверия в открытых распределенных средах, предложив механизм трансляции, способный сделать обмен информацией от одного агента к другому более точным и полезным.
моделей Оценка доверия
В настоящее время не существует общепринятой системы оценки или критериев, которые позволяли бы сравнивать модели в наборе репрезентативных и общих условий. В этом направлении был предложен теоретико-игровой подход. [29] где конфигурация модели доверия оптимизирована с учетом того, что злоумышленники используют оптимальные стратегии атаки; это позволяет на следующем этапе сравнить ожидаемую полезность различных моделей доверия. Аналогичным образом была предложена основанная на моделях аналитическая структура для прогнозирования эффективности механизмов репутации против произвольных моделей атак в произвольных системных моделях. [30] для одноранговых систем.
См. также [ править ]
Ссылки [ править ]
- ^ Вайзе, Дж. (август 2001 г.). «Обзор инфраструктуры открытых ключей». Глобальная практика безопасности SunP, SunMicrosystems.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Коль Дж.; BC Нойман (1993). «Служба сетевой аутентификации Kerberos (версия 5)». Интернет-запрос комментариев RFC-1510.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Сеньор Ж.М. (2005). «Доверие, безопасность и конфиденциальность в глобальных вычислениях». Докторская диссертация, Дублинский университет, Тринити-колледж.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ «IST, Global Computing, ЕС» . 2004. Архивировано из оригинала 27 апреля 2006 г. Проверено 11 августа 2008 г.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Лонго Л.; Дондио П.; Барретт С. (2007). «Временные факторы для оценки надежности виртуальных личностей» (PDF) . Третий международный семинар «Ценность безопасности через сотрудничество», SECURECOMM.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Делларокас К. (2003). «Цифровизация сарафанного радио: перспективы и проблемы механизма онлайн-репутации». Наука управления.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Монтанер М.; Лопес Б.; Де Ла Роза Дж. (2002). «Развитие доверия к рекомендательным агентам». Материалы Первой международной совместной конференции по автономным агентам и мультиагентным системам (AAMAS-02).
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Романо ДМ (2003). «Природа доверия: концептуальное и практическое разъяснение». Университет штата Луизиана, докторская диссертация.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Гамбетта Д. «Можем ли мы доверять доверию». Доверие: создание и разрыв отношений сотрудничества. Глава. Можем ли мы доверять доверию? Бэзил Блэквелл, Оксфорд, стр. 213–237.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Марш С. (1994). «Формализация доверия как вычислительная концепция». Докторская диссертация, Университет Стерлинга, факультет компьютерных наук и математики.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Сабатер Дж.; Сьерра К. (2005). «Обзор вычислительных моделей доверия и репутации». Обзор искусственного интеллекта, 24:33-60, Springer.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Эсфандиари Б.; Чандрасекхаран С. (2001). «О том, как агенты заводят друзей: механизм приобретения доверия». В материалах четвертого семинара по обману, мошенничеству и доверию в агентских обществах, Монреаль, Канада. стр. 27-34.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Хугендорн, Марк; Джаффри, С. Слезы; Треур, Ян (2011). Достижения в области когнитивной нейродинамики (II) . Спрингер, Дордрехт. стр. 100-1 523–536. CiteSeerX 10.1.1.160.2535 . дои : 10.1007/978-90-481-9695-1_81 . ISBN 9789048196944 .
- ^ Джаффри, С. Вакар; Треур, Январь (1 декабря 2009 г.). «Сравнение когнитивной и нейронной моделей динамики относительного доверия». Нейронная обработка информации . Конспекты лекций по информатике. Том. 5863. Шпрингер, Берлин, Гейдельберг. стр. 72–83. CiteSeerX 10.1.1.149.7940 . дои : 10.1007/978-3-642-10677-4_8 . ISBN 9783642106767 .
- ^ Гамбетта Д. «Можем ли мы доверять доверию?». В. Доверие: создание и разрыв отношений сотрудничества. Глава. Можем ли мы доверять доверию? Бэзил Блэквелл, Оксфорд, стр. 213–237.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Хугендорн, М.; Джаффри, Юго-Запад (август 2009 г.). «Влияние личности на динамику доверия и репутации». 2009 Международная конференция по вычислительной науке и инженерии . Том. 3. С. 263–270. дои : 10.1109/CSE.2009.379 . ISBN 978-1-4244-5334-4 . S2CID 14294422 .
- ^ Скотт, Дж.; Таллия, А; Кроссон, Дж. К.; Орзано, AJ; Штребель, К; Дичикко-Блум, Б; О'Мэлли, Д; Шоу, Э; Крэбтри, Б. (сентябрь 2005 г.). «Анализ социальных сетей как аналитический инструмент для определения моделей взаимодействия в практике первичной медико-санитарной помощи» . Анналы семейной медицины . 3 (5): 443–8. дои : 10.1370/afm.344 . ПМК 1466914 . ПМИД 16189061 .
- ^ Бахарах М.; Гамбетта Д. (2001). «Доверие к обществу». Глава. Доверяйте знакам. Фонд Рассела Сейджа, .
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Хугендорн, М.; Джаффри, Юго-Запад; Маанен, П. П. Ван и Треур, Дж. (2011). Моделирование и проверка предвзятого человеческого доверия . Издательство IEEE Computer Society, 2011.
- ^ Марк, Хугендорн; Вакар, Джаффри, Сайед; Питер-Пауль, ван Маанен; Ян, Треур (01 января 2013 г.). «Моделирование предвзятой динамики человеческого доверия» . Веб-аналитика и агентские системы . 11 (1): 21–40. дои : 10.3233/WIA-130260 . ISSN 1570-1263 .
{{cite journal}}: CS1 maint: несколько имен: список авторов ( ссылка ) - ^ Макнайт Д.Х.; Червани Н.Л. (1996). «Значения доверия. Технический отчет». Исследовательский центр информационных систем управления Университета Миннесоты.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^
Макнайт Д.Х.; Червани Н.Л. (2002). «Концептуализация доверия: типология и модель взаимоотношений с клиентами в электронной коммерции». В: Материалы 34-й Гавайской международной конференции по системным наукам.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^
Муи Л.; Хальберштадт А.; Мохташеми М. (2002). «Представления о репутации в многоагентных системах: обзор». В: Материалы Первой международной совместной конференции по автономным агентам и многоагентным системам (AAMAS-02), Болонья, Италия, стр. 280-287.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Дондио, П.; Лонго, Л. (2011). «Методы коллективного разума, основанные на доверии, в системах социального поиска» . Технологии обработки данных нового поколения для коллективного вычислительного интеллекта . Исследования в области вычислительного интеллекта. Том. 352. Спрингер. стр. 113–135. дои : 10.1007/978-3-642-20344-2_5 . ISBN 978-3-642-20343-5 .
- ^ Лонго Л. (2007). «Безопасность посредством сотрудничества в области глобальных вычислений: модель вычислительного доверия, основанная на временных факторах для оценки надежности виртуальных удостоверений». Степень магистра, Университет Инсубрия.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^
Д. Керсия; С. Хейлз; Л. Капра (2006). «B-доверие: байесовская структура доверия для всеобъемлющих вычислений» (PDF) . я верю.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Сеньор Ж. М. (2006). «Сеньор Дж. М., Ambitrust? Неизменяемое и контекстно-зависимое слияние доверия». Технический отчет, унив. Женевы.
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Дондио, П.; Лонго, Л.; и другие. (18–20 июня 2008 г.). «Механизм перевода рекомендаций» (PDF) . В Карабулуте — Юсель; Митчелл, Джон К.; Херрманн, Питер; Дженсен, Кристиан Дамсгаард (ред.). Доверительное управление II. Материалы IFIPTM 2008: Совместные конференции iTrust и PST по конфиденциальности, доверительному управлению и безопасности . ИФИП – Международная федерация обработки информации. Том. 263. Тронхейм, Норвегия: Springer. стр. 87–102. дои : 10.1007/978-0-387-09428-1_6 . ISBN 978-0-387-09427-4 .
- ^ Стааб, Э.; Энгель, Т. (2009). «Настройка моделей доверия, основанных на фактических данных». 2009 Международная конференция по вычислительной науке и инженерии . Ванкувер, Канада: IEEE. стр. 92–99. дои : 10.1109/CSE.2009.209 . ISBN 978-1-4244-5334-4 .
- ^ Лагесс, Б. (2012). «Аналитическая оценка репутационных систем P2P» (PDF) . Международный журнал сетей связи и распределенных систем . 9 : 82–96. CiteSeerX 10.1.1.407.7659 . дои : 10.1504/IJCNDS.2012.047897 .