В Университете Северной Каролины разработали новый инструмент обучения, который помогает ИИ понять, что люди не всегда говорят правду. Его будут использовать в ситуациях, когда есть экономический стимул солгать — например, при подаче заявки на ипотеку, в сфере кредитования, налогов и здравоохранения.
Различных ИИ-помощников уже давно используют в различных бизнес-контекстах, в том числе, в банковской сфере. Они помогают определить, какую сумму ипотечного кредита может позволить себе человек, или какой налоговый вычет ему положен. Проблема одна — такие системы используют математические алгоритмы, основанные на чистой статистике. Им непонятно, что люди могут лгать, особенно ради денег.
На этот раз ученые хотели скорректировать алгоритмы ИИ, чтобы они научились распознавать и учитывать ложь. Для этого они создали новый набор параметров обучения, который помогает ИИ выявлять контексты, в которых появляется стимул солгать. Также ИИ научили замечать противоречия. Пока модель лучше справляется с «большой ложью» — когда предоставляют заведомо неверные сведения. ИИ еще тяжело понять, когда пользователи врут в мелочах или предоставляют полу-правду. Тем не менее, исследователи настроены оптимистично: одно знание о том, что ИИ может распознать ложь, снижает желание лгать. В будущем же подобные системы станут достаточно умными, поэтому люди в большинстве случаев даже не будут пытаться их обмануть.
Различных ИИ-помощников уже давно используют в различных бизнес-контекстах, в том числе, в банковской сфере. Они помогают определить, какую сумму ипотечного кредита может позволить себе человек, или какой налоговый вычет ему положен. Проблема одна — такие системы используют математические алгоритмы, основанные на чистой статистике. Им непонятно, что люди могут лгать, особенно ради денег.
На этот раз ученые хотели скорректировать алгоритмы ИИ, чтобы они научились распознавать и учитывать ложь. Для этого они создали новый набор параметров обучения, который помогает ИИ выявлять контексты, в которых появляется стимул солгать. Также ИИ научили замечать противоречия. Пока модель лучше справляется с «большой ложью» — когда предоставляют заведомо неверные сведения. ИИ еще тяжело понять, когда пользователи врут в мелочах или предоставляют полу-правду. Тем не менее, исследователи настроены оптимистично: одно знание о том, что ИИ может распознать ложь, снижает желание лгать. В будущем же подобные системы станут достаточно умными, поэтому люди в большинстве случаев даже не будут пытаться их обмануть.
Источник: https://t.me/futurecap/6762
Источник изображения: https://avatars.mds.yandex.net/i?id=ffe567786755a19c946c9dc8c60e92a1_l-8710170-images-thumbs&n=33&w=1621&h=1081&q=60
Источник изображения: https://avatars.mds.yandex.net/i?id=ffe567786755a19c946c9dc8c60e92a1_l-8710170-images-thumbs&n=33&w=1621&h=1081&q=60
#ОбразованиеПресс
#НовостиОбразования
#ВысшееОбразование
#Исследования
#Технологии
#Инновации
#Полиграф
#ДетекторЛжи
#ИИ
#НовостиОбразования
#ВысшееОбразование
#Исследования
#Технологии
#Инновации
#Полиграф
#ДетекторЛжи
#ИИ
