Как сообщает издание TechCrunch, израильский стартап 42AI заявляет, что разрабатывает «поведенческую модель мира», которая способна предсказывать действия человека даже в незнакомой ситуации. Компания только что вышла из режима скрытой разработки и объявила о посевном раунде на 62,5 млн долларов. Сейчас система работает в нескольких финансовых брокерских компаниях, где, по словам разработчиков, помогает прогнозировать реакцию отдельных трейдеров на резкие колебания рынка. Соучредитель и генеральный директор Амит Гал-Ор, отвечая на вопрос о смелом заявлении, сказал TechCrunch, что поведение не детерминировано, а постоянно вероятностно. По его словам, у людей есть устойчивые психологические склонности, которые влияют на решения даже при изменении обстоятельств. Стартап пытается измерить эти склонности и перевести их в данные, которые может понимать модель. Соучредитель и технический директор Эхуд Эзра добавил, что через неделю человек может измениться, но его склонности всё равно будут проявляться в определённых областях с определённой вероятностью. Именно это, по словам компании, и делает модель: она показывает вероятность того, что человек примет то или иное решение. 42AI утверждает, что модель пытается понять внутренние мотивы людей, а не экстраполирует закономерности на основе их прошлых действий. Для этого компания анализирует, как люди реагируют на, казалось бы, не связанные между собой события. Для инвестора или трейдера это могут быть прохождение процедур проверки клиента, регистрация, обращения в службу поддержки, денежные переводы и торговля акциями. Эзра пояснил, что при первичном общении с поддержкой или отделом продаж система учитывает тональность, голос и количество обращений. Все эти данные поступают в модель. Позже учитываются сделки: как и когда человек покупает и продаёт, а также состояние рынка на этот момент. «Мы пытаемся понять, как человек видит мир. В модели мира каждый отдельный человек и есть мир», — добавил он. Затем компания переводит наблюдения в математическое представление черт, которые подаются в трансформерную модель мира. Она рассчитывает вероятности возможных решений в разных обстоятельствах. Для объяснения прогнозов компания использует отдельную языковую модель. Эзра сказал, что модель обучена сохранять базовые склонности человека во время симуляций. Если человек обычно избегает риска, а модель внезапно считает его склонным к риску, то, по словам Эзра, «цель промахнулась». Так он описал устройство вознаграждений при обучении. По словам компании, над подходом работали три года, сочетая психологические исследования с нейронаукой и генетикой. Также учитывались консультации специалистов по психологии и посттравматическому стрессовому расстройству (ПТСР), а также нобелевского лауреата по химии 2011 года Дэна Шехтмана. Гал-Ор рассказал, что команда сначала изучила тысячи людей с помощью психологических тестов и поведенческих сценариев. Затем к исследованию добавили государственные данные и данные биобанков, охватывающие более 2 млн человек. По его словам, клиентские датасеты сейчас покрывают почти 30 млн человек. В реальной работе модель анализирует существующие записи клиентов, включая транзакции и звонки в поддержку. Гал-Ор заявил, что системе не нужны персональные данные, позволяющие установить личность: «модель никогда не знает, кто этот человек». Однако, как отмечает TechCrunch, компания всё же создаёт индивидуальные поведенческие профили на основе связанной активности клиентов. 42AI заявляет о 98-процентной точности прогнозов на рынке. Гал-Ор уточнил, что этот показатель скорее отражает, попадают ли торговые потоки в предсказанный диапазон, а не то, что каждая сделка была предсказана верно. Он также сказал, что модель стабильно показывает F1-меру от 0,8 до 0,85 при прогнозировании направления и объёма торгов. F1-мера — это метрика машинного обучения, которая показывает, насколько хорошо классификационная модель сочетает правильные прогнозы с ложными срабатываниями и пропущенными событиями. Модель не универсальна. По словам Гал-Ора, «здесь есть естественный потолок, потому что у вас нет доступа ко всему, что переживает человек». Эзра пояснил, что точность страдает, когда система не учитывает важный контекст. Например, это происходит, если клиент меняет торговые решения под влиянием совета друга или коллеги. Гал-Ор сказал, что 42AI работает с 10 крупными брокерами, которые используют систему для управления ликвидностью, требованиями к марже и хеджированием рисков. Компания подключает новых клиентов и, по его словам, получает выручку в «семизначных» цифрах, хотя конкретную сумму он не назвал. Клиенты платят либо фиксированную плату, либо процент от стоимости, которую платформа помогает заработать. Гал-Ор утверждает, что один из брокеров получил около 30 млн долларов дополнительной стоимости за счёт динамического хеджирования. По словам Гал-Ора, раунд на 62,5 млн долларов был собран за три года основателями и Infinity Group и не полностью привлечён внешними инвесторами. Infinity основал его отец Амир Гал-Ор, который также является председателем совета директоров и соучредителем 42AI. Сама компания планирует привлечь дополнительное финансирование. Помимо финансов, 42AI изучает применение модели в играх, предотвращении мошенничества и кибербезопасности. В перспективе компания хочет помогать роботам и ИИ-агентам понимать людей. Однако Эзра признал, что модель для каждой новой области нужно обучать правилам и контексту, поэтому это дело отдалённого будущего. У технологии есть и потенциально тревожная сторона. Если брокер может предугадать действия клиентов, что помешает использовать эти знания в своих интересах? Эзра назвал этот вопрос «обоснованной обеспокоенностью». Основатели указали на регулирование, мониторинг и внутренний этический комитет. Однако они не объяснили, что именно, если вообще что-либо, помешает клиентам использовать технологию для получения преимущества над теми самыми людьми, которых она профилирует. Гал-Ор при этом уверен, что технология поможет снизить такие риски: «Мы очень горды тем, что мы часть решения; мы и есть решение этой проблемы». Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.