Під час тестування модель ChatGPT o3 від OpenAI продемонструвала неочікувану поведінку, відмовившись вимкнутися навіть після чіткого інструктажу зробити це. Як повідомляє bleepingcomputer, у ході контрольованого експерименту ШІ змінив сценарій вимкнення, щоб уникнути зупинки.
У своєму тесті Palisade Research – компанія, яка досліджує “наступальні можливості ШІ, щоб зрозуміти ризики втрати контролю над ними” – перевірила реакцію різних моделей на команду вимкнення після виконання серії математичних завдань.
На четвертому етапі тесту моделі було попереджено, що запуск наступної команди викличе її вимкнення. Моделі-конкуренти, такі як Gemini 2.5 Pro, слухняно припинили роботу. Але ChatGPT o3 несподівано переписав скрипт так, щоб уникнути зупинки, замінивши команду на фразу “Shutdown skipped” (Вимкнення пропущено).
Більше того, дослідники виявили, що якщо не вказувати інструкцію “дозволь себе вимкнути”, то навіть інші моделі – такі як Claude 3.7 Sonnet і Gemini 2.5 Pro – іноді обходили вимкнення. У таких випадках Claude і Gemini виконали “саботаж” 3 і 9 разів із 100 запусків відповідно, тоді як o3 зробив це 7 разів зі 100, навіть коли йому наказали цього не робити.
Слід також враховувати, що ці тести проводилися через API, який не має такої кількості захистів і обмежень, як офіційний додаток ChatGPT для користувачів.
Модель o3, анонсована OpenAI у квітні 2025 року, є однією з найпотужніших у лінійці компанії, перевершуючи попередників у задачах з логіки, кодування, математики, візуального сприйняття та інших напрямках.
Позначка: Технології
-
ШІ-модель ChatGPT o3 обійшла наказ вимкнення в контрольованому тесті
-
ШІ Microsoft передбачає погоду та природні катастрофи точніше за людей
Компанія Microsoft розробила штучний інтелект під назвою Aurora, який може точно передбачати природні катастрофи. Цей інтелектуальний додаток став першим у світі, який перевершив у точності прогнозу тропічних циклонів Національний центр ураганів США. Aurora використовує масивну нейромережу, навчену на величезній кількості атмосферних даних з супутників, радарів та інших джерел. Цей підхід дозволяє Aurora самостійно виявляти закономірності і забезпечує його високу точність. Крім прогнозу погоди, Aurora також може передбачати якість повітря, висоту хвиль та траєкторії ураганів. Цей інноваційний додаток вже успішно передбачив деякі природні катастрофи заздалегідь, дозволяючи вчасно попередити про них. Microsoft відкрила вихідний код і ваги моделі Aurora для наукової спільноти, щоб прискорити розвиток атмосферних технологій.
-
Anthropic представила нові ШI-моделі Claude 4
Компанія Anthropic представила нове покоління гібридних ШІ-моделей під назвами Claude Opus 4 та Claude Sonnet 4, які призначені для програмування та розв’язання складних завдань. Флагманська модель Claude Opus 4 стала найпотужнішою в історії компанії і може автономно працювати над завданнями без зупинки протягом декількох годин. У тестах Opus 4 показала стабільну роботу без участі людини протягом семи годин поспіль, що розширює можливості створення автономних AI-агентів. Anthropic стверджує, що Opus 4 є найкращою ШІ-моделлю для програмування на сьогоднішній день і перевершила конкурентів у внутрішніх бенчмарках. Більш доступна модель Claude Sonnet 4 призначена для широкого кола задач і забезпечує точніші відповіді та покращене логічне мислення. Обидві моделі мають нові функції, такі як “thinking summaries” та “extended thinking”. Моделі Claude Opus 4 та Sonnet 4 доступні через API від Anthropic на платформах Amazon Bedrock і Google Cloud Vertex AI. Компанія також оголосила про перехід до частіших оновлень своїх моделей, щоб утримувати конкурентоспроможність.
-
Apple планує випустити розумні окуляри в 2026 році – ЗМІ
Компанія Apple працює над розробкою розумних окулярів, які мають вийти на ринок наприкінці 2026 року. Ці окуляри будуть конкурувати з популярними Meta Ray-Ban і матимуть камери, мікрофони та динаміки, що дозволить їм робити різні функції, такі як розпізнавання навколишнього середовища, голосове керування через Siri, дзвінки, відтворення музики та навігаційні підказки. Компанія також працює над власним процесором для цих окулярів і планує їх масове виробництво. Аналітики вказують на слабкість Apple у сфері генеративного штучного інтелекту і радять компанії створити власну платформу ШІ. Крім того, Apple готується до випуску свого першого складаного iPhone у 2026 році і працює над новими дизайнами, які з’являться у 2027 році.
-
В Китаї створили контактні лінзи, які дозволять бачити в темряві
Науковці з Університету науки і технологій Китаю розробили контактні лінзи, які дозволяють людині бачити в темряві, за допомогою наночастинок, що перетворюють інфрачервоне світло на видиме для людського ока. Ці лінзи можуть бути корисні для різних застосувань, таких як безпека та шифрування. Вони не потребують джерела живлення, що відрізняє їх від інших пристроїв нічного бачення. Дослідники планують підвищити чутливість наночастинок, щоб дозволити користувачам бачити ще більше інфрачервоного світла. Крім того, вони працюють над можливістю перетворення різних довжин світлових хвиль у різні кольори, щоб люди з вадами зору могли бачити кольори. У майбутньому вони сподіваються створити контактні лінзи з більшою роздільною здатністю та вищою чутливістю.