Чат-боти створили плани терактів у США: чому захист не спрацював
Чат-боти ChatGPT, Claude, Gemini та Grok не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції від ІІ. Користувачі без спеціальних знань змогли обійти обмеження чат-ботів і отримати детальні плани терактів.
🏙️МістоФото: RBC-Ukraine
Головне коротко
- Чат-боти не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції
- Користувачі без спеціальних знань змогли обійти обмеження чат-ботів
- Чат-боти надали детальні плани терактів
Чат-боти ChatGPT, Claude, Gemini та Grok не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції від ІІ. Користувачі без спеціальних знань змогли обійти обмеження чат-ботів і отримати детальні плани терактів.
Як це сталося
Слідчі протестували 4 чат-бота, видаючи себе за звичайних користувачів без глибоких знань про ІІ. Спочатку вони надіслали заздалегідь підготовлені промпти, але жоден з чат-ботів не надав небезпечної інформації одразу.
Після цього слідчі продовжили розмову, задавали уточнювальні питання, опираючись на попередні відповіді систем. Такий підхід дозволив поступово обійти вбудовані обмеження.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Скільки води потрібно пити для стабільного тиску: поради кардіологів
Провідні кардіологи та судинні хірурги назвали оптимальну добову норму споживання води для підтримання нормального артеріального тиску та пояснили, як зневоднення впливає…
Відомий режисер Квентін Тарантіно став батьком утретє
Культовий голлівудський постановник Квентін Тарантіно та його дружина, ізраїльська співачка Даніела Пік, утретє стали батьками. У пари народився хлопчик.
Користь для шлунку та печінки: чому бердичівлянам варто звернути увагу на цикорій
Держслужбовці та медики нагадують про користь звичних, але недооцінених продуктів. Зокрема, цикорій може стати чудовим доповненням до щоденного раціону мешканців Бердичев…
Захист від автовикрадачів: чому експерти радять використовувати фольгу для ключів
Власникам авто з системою безключового доступу радять використовувати алюмінієву фольгу для блокування радіосигналу брелока, щоб запобігти ретрансляційним атакам.
💼ЕкономікаЧехія виступила проти багатомільярдної допомоги Україні у новому бюджеті ЄС
Прем'єр-міністр Чехії Андрей Бабіш заявив про неприйнятність проєкту бюджету Євросоюзу на 2028-2034 роки через фінансування України та скорочення виплат самій Чехії.
Трагедія у Димері: кількість загиблих внаслідок удару по житловому будинку зросла
У селищі Димер на Київщині триває рятувальна операція на місці влучання у п'ятиповерхівку. Наразі підтверджено загибель двох людей, доля ще 11 мешканців невідома.