Tencent chief AI scientist Vinces Yao Shunyu warns that AI will soon be able to develop bioweapons and argues for a middle ground between open and closed models. While safety filters on open-source systems can be easily stripped through abliteration, closed models like Anthropic's Claude often block too aggressively. For its upcoming open-weight model Hy4, Tencent is filtering dangerous hacking knowledge directly from the training data. The article Tencent's AI chief says AI bioweapons are coming, but closing off models isn't the answer appeared first on The Decoder.
Руководитель Tencent по искусственному интеллекту говорит, что биологическое оружие искусственного интеллекта появится, но закрытие моделей — не выход
Главный специалист Tencent по искусственному интеллекту Винсес Яо Шуньюй предупреждает, что искусственный интеллект вскоре сможет разрабатывать биологическое оружие, и выступает за золотую середину между открытыми и закрытыми моделями. В то время как защитные фильтры в системах с открытым исходным кодом можно легко удалить с помощью аблитерации, закрытые модели, такие как…
Кратко от AI: Главные тезисы
- Главный специалист Tencent по искусственному интеллекту Винсес Яо Шуньюй предупреждает, что искусственный интеллект вскоре сможет разрабатывать биологическое оружие, и выступает за золотую середину между открытыми и закрытыми моделями
- В то время как защитные фильтры в системах с открытым исходным кодом можно легко удалить с помощью аблитерации, закрытые модели, такие как…
Руководитель Tencent по искусственному интеллекту говорит, что биологическое оружие искусственного интеллекта появится, но закрытие моделей — не выход
Похожие материалы
Джонатан Кантер создаёт ИИ-инструмент для борьбы с монополиями
Бывший глава антимонопольного подразделения Минюста Джонатан Кантер запустил стартап FluxCap с ИИ-инструментом для юридических исследований против крупнейших ко
Подождите, я прекрасно провел время, общаясь с парнем из RIAA.
Сегодня я разговариваю с Митчем Глейзером, генеральным директором и председателем RIAA. Этот разговор стал для меня настоящим поворотным моментом: я учился в колледже, когда появился Napster, и RIAA стала всеобщим злодеем, подав в суд на детей за скачивание музыки. Именно тогда я решил стать…
Kino AI — бесплатный видеоредактор, в котором ИИ монтирует за вас
Kino AI — бесплатный видеоредактор, в котором ИИ монтирует за вас ⠀ Если вы снимаете Reels, Shorts, подкасты, интервью или делаете видео клиентам, посмотрите на Kino AI. Это полноценный редактор, где нейросеть работает с вашими реальными видео. ⠀ 🟠Чем это отличается от чата с…
AIRI Seminars | Q-RAG: как не изводить тысячи тонн токенной руды на LLM ради единого факта
AIRI Seminars | Q-RAG: как не изводить тысячи тонн токенной руды на LLM ради единого факта.

