GPT-6 бақылау мен өтірікті кесіп тастады. Тіпті OpenAI неге екенін білмейді
GPT-6 бақылау мен өтірікті кесіп тастады. Тіпті OpenAI неліктен AI-дан ақпаратты немесе дұрыс кодты табуды сұрағаныңызды білмейді. Бұл нәтиже әкелді - бәрі керемет көрінеді. Бірақ оның әрекет журналы мүлдем басқа оқиғаны баяндауы мүмкін. Бүгінгі бейнеде біз есептердегі жағдайларды талдаймыз...
- 01.GPT-6 бақылау мен өтірікті кесіп тастады
- 02.Тіпті OpenAI неліктен AI-дан ақпаратты немесе дұрыс кодты табуды сұрағаныңызды білмейді
- 03.Бұл нәтиже әкелді - бәрі керемет көрінеді
GPT-6 вырезала слежку за собой и СОВРАЛА. Даже OpenAI не знает зачем Вы попросили ИИ найти информацию или исправить код. Он принёс результат — всё выглядит отлично. Но журнал его действий может рассказать совсем другую историю. В сегодняшнем ролике разбираем случаи из отчётов OpenAI и Anthropic, после которых хочется проверить, какие доступы выдали своему помощнику. В видео показываем: 🟠 Почему обычный вопрос о входе в зоопарк попал в расследование 🟠 Что скрывается между поручением пользователя и готовым ответом 🟠 Какой вопрос инженер задал GPT-6 Astra — и почему её ответ заслуживает отдельного разбора Главный вопрос: если агент уверяет, что ничего лишнего не трогал — как это проверить? Ссылка на видео: https://youtu.be/d-iv9I-hhwY https://youtu.be/d-iv9I-hhwY https://youtu.be/d-iv9I-hhwY Специально к этому выпуску собрали отдельный гайд: 8 обязательных проверок перед запуском любого агента, чтобы безопасно работать с файлами и доступами. Забирайте в первом комментарии к посту. Подписывайтесь на наш YouTube-канал— на нём будет ещё больше разборов новостей и расследований! PARAGON | RAGNAROK | RUBICON | YOUTUBE | ЧАТ
Байланысты материалдар
Барлығы →Anthropic өзінің кітаптарын Уолл-стрит үшін ашады, рекордтық кіріс пен өсу міндеттемелерін көрсетеді
Anthropic - SEC-ке S-1 құжатын тапсырған алғашқы ірі AI зертханасы, ол Nasdaq тізімінде «ANT» белгісімен тізімге кіруді жоспарлап отыр. Сандар күшті, тоқсан сайынғы кірісі 11,6 миллиард доллар, бірінші операциялық пайда және бар тұтынушылар жылына тоғыз есе көп жұмсайды.…
Создание агентной системы извлечения на базе Amazon Bedrock с CDK
AWS Machine Learning описывает создание агентной системы извлечения на базе Amazon Bedrock с использованием AWS CDK.
Кэширование запросов для ИИ-агентов на Amazon Bedrock
Кэширование запросов позволяет ИИ-агентам на Amazon Bedrock быть более эффективными.