MIT исследует ответственность за слова в контексте ИИ и гражданских дискуссий

{{opener}} В новой статье, опубликованной в Bulletin of the Atomic Scientists, профессор медиа-искусств и наук MIT Деб Рой поднимает вопрос о необходимости ответственности в коммуникации, особенно когда речь идет о текстах, созданных искусственным интеллектом. По его словам, использование ИИ для генерации комментариев в гражданских обсуждениях создает сложности в определении, кто именно стоит за этими словами. Рой отмечает, что с появлением ИИ, таких как Chat-GPT, стало легче создавать реалистичные комментарии, которые сложно отличить от настоящих. Это подрывает доверие к гражданским форумам, где общественное мнение должно быть услышано. Он приводит пример, когда Федеральная комиссия по связи США получила более 22 миллионов комментариев по вопросу отмены правил нейтральности сети, из которых почти 18 миллионов были признаны поддельными. Профессор подчеркивает, что важно иметь людей с «правом голоса», которые могут нести ответственность за свои слова. Он говорит о концепциях «статуса» и «ответственности», которые должны быть интегрированы в процесс коммуникации. По его мнению, ИИ может помочь в обработке информации, но в конечном итоге за каждое слово должен стоять человек. Рой также делится своими размышлениями о необходимости медленного, но уверенного подхода к внедрению технологий в демократические процессы, подчеркивая, что скорость технологий и скорость демократии не совпадают. Он призывает к созданию систем, которые учитывают интересы людей и обеспечивают их участие в обсуждениях. Центр конструктивной коммуникации MIT, возглавляемый Роем, активно работает над улучшением диалогов в обществе, используя технологии для выявления тем и создания безопасных пространств для обсуждений. Они стремятся создать культуру, в которой каждый голос будет услышан, а мнения будут основываться на реальном опыте и ответственности. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.