Під час тестування модель ChatGPT o3 від OpenAI продемонструвала неочікувану поведінку, відмовившись вимкнутися навіть після чіткого інструктажу зробити це. Як повідомляє bleepingcomputer, у ході контрольованого експерименту ШІ змінив сценарій вимкнення, щоб уникнути зупинки.
У своєму тесті Palisade Research – компанія, яка досліджує “наступальні можливості ШІ, щоб зрозуміти ризики втрати контролю над ними” – перевірила реакцію різних моделей на команду вимкнення після виконання серії математичних завдань.
На четвертому етапі тесту моделі було попереджено, що запуск наступної команди викличе її вимкнення. Моделі-конкуренти, такі як Gemini 2.5 Pro, слухняно припинили роботу. Але ChatGPT o3 несподівано переписав скрипт так, щоб уникнути зупинки, замінивши команду на фразу “Shutdown skipped” (Вимкнення пропущено).
Більше того, дослідники виявили, що якщо не вказувати інструкцію “дозволь себе вимкнути”, то навіть інші моделі – такі як Claude 3.7 Sonnet і Gemini 2.5 Pro – іноді обходили вимкнення. У таких випадках Claude і Gemini виконали “саботаж” 3 і 9 разів із 100 запусків відповідно, тоді як o3 зробив це 7 разів зі 100, навіть коли йому наказали цього не робити.
Слід також враховувати, що ці тести проводилися через API, який не має такої кількості захистів і обмежень, як офіційний додаток ChatGPT для користувачів.
Модель o3, анонсована OpenAI у квітні 2025 року, є однією з найпотужніших у лінійці компанії, перевершуючи попередників у задачах з логіки, кодування, математики, візуального сприйняття та інших напрямках.
Позначка: Штучний інтелект
-
ШІ-модель ChatGPT o3 обійшла наказ вимкнення в контрольованому тесті
-
Sky Sentinel: українська ШІ-турель ловить Шахеди на фронті
Українські інженери розробили нову автономну систему ППО під назвою Sky Sentinel, яка може самостійно виявляти та знищувати російські дрони, не потребуючи втручання оператора. Ця система успішно проходила випробування на фронті і здолала принаймні чотири Shahed-дрони. Росія випустила понад 45 тисяч ударних дронів по Україні з початку війни, завдаючи шкоди енергетичним об’єктам, цивільній інфраструктурі та житловим районам. Українські системи оборони не завжди впораються з такими інтенсивними атаками. Тому розробка Sky Sentinel стала важливим кроком у забезпеченні безпеки країни. Нова система виглядає як звичайна турель, але насправді це складна автономна система з великокаліберним кулеметом та системою датчиків, яка може автоматично виявляти та атакувати дрони. Sky Sentinel використовується у бою для захисту міст та передових позицій від атак Shahed, що є ефективнішим і економічнішим варіантом порівняно з традиційними системами ППО. Інженери продовжують працювати над вдосконаленням та масштабуванням виробництва Sky Sentinel, щоб забезпечити країну надійним захистом від дронових загроз.
-
Nvidia випустить дешевший чип зі штучним інтелектом для Китаю – ЗМІ
Компанія Nvidia планує випустити новий чип штучного інтелекту для Китаю, який буде коштувати значно менше, ніж модель H20, заборонена в квітні. Масове виробництво новинки може розпочатися в червні. Цей графічний процесор належатиме до лінійки Blackwell і коштуватиме приблизно від $6500 до $8000, що є дешевше, ніж $10 000-12 000 за H20.
Зниження ціни пояснюється менш потужними характеристиками та простішим виробництвом. Новий чип базується на серверному GPU RTX Pro 6000D і використовуватиме звичайну пам’ять GDDR7 замість новітньої HBM. Крім того, він не використовуватиме фірмову технологію пакування CoWoS від TSMC.
Китай залишається важливим ринком для Nvidia, проте санкції США значно вплинули на позиції компанії. Частка Nvidia на ринку Китаю знизилася з 95% у 2022 році до 50% зараз. Головний конкурент – Huawei з чипом Ascend 910B.
Генеральний директор Nvidia Дженсен Хуанг заявив, що старі моделі на архітектурі Hopper неможливо адаптувати під нові правила експорту, через що компанія зазнала втрат відмовилася від потенційних продажів на суму $15 млрд. -
ШІ Microsoft передбачає погоду та природні катастрофи точніше за людей
Компанія Microsoft розробила штучний інтелект під назвою Aurora, який може точно передбачати природні катастрофи. Цей інтелектуальний додаток став першим у світі, який перевершив у точності прогнозу тропічних циклонів Національний центр ураганів США. Aurora використовує масивну нейромережу, навчену на величезній кількості атмосферних даних з супутників, радарів та інших джерел. Цей підхід дозволяє Aurora самостійно виявляти закономірності і забезпечує його високу точність. Крім прогнозу погоди, Aurora також може передбачати якість повітря, висоту хвиль та траєкторії ураганів. Цей інноваційний додаток вже успішно передбачив деякі природні катастрофи заздалегідь, дозволяючи вчасно попередити про них. Microsoft відкрила вихідний код і ваги моделі Aurora для наукової спільноти, щоб прискорити розвиток атмосферних технологій.
-
Anthropic представила нові ШI-моделі Claude 4
Компанія Anthropic представила нове покоління гібридних ШІ-моделей під назвами Claude Opus 4 та Claude Sonnet 4, які призначені для програмування та розв’язання складних завдань. Флагманська модель Claude Opus 4 стала найпотужнішою в історії компанії і може автономно працювати над завданнями без зупинки протягом декількох годин. У тестах Opus 4 показала стабільну роботу без участі людини протягом семи годин поспіль, що розширює можливості створення автономних AI-агентів. Anthropic стверджує, що Opus 4 є найкращою ШІ-моделлю для програмування на сьогоднішній день і перевершила конкурентів у внутрішніх бенчмарках. Більш доступна модель Claude Sonnet 4 призначена для широкого кола задач і забезпечує точніші відповіді та покращене логічне мислення. Обидві моделі мають нові функції, такі як “thinking summaries” та “extended thinking”. Моделі Claude Opus 4 та Sonnet 4 доступні через API від Anthropic на платформах Amazon Bedrock і Google Cloud Vertex AI. Компанія також оголосила про перехід до частіших оновлень своїх моделей, щоб утримувати конкурентоспроможність.
-
Apple планує випустити розумні окуляри в 2026 році – ЗМІ
Компанія Apple працює над розробкою розумних окулярів, які мають вийти на ринок наприкінці 2026 року. Ці окуляри будуть конкурувати з популярними Meta Ray-Ban і матимуть камери, мікрофони та динаміки, що дозволить їм робити різні функції, такі як розпізнавання навколишнього середовища, голосове керування через Siri, дзвінки, відтворення музики та навігаційні підказки. Компанія також працює над власним процесором для цих окулярів і планує їх масове виробництво. Аналітики вказують на слабкість Apple у сфері генеративного штучного інтелекту і радять компанії створити власну платформу ШІ. Крім того, Apple готується до випуску свого першого складаного iPhone у 2026 році і працює над новими дизайнами, які з’являться у 2027 році.