Компанія Anthropic провела низку стрес-тестів над новітніми моделями штучного інтелекту, серед яких Claude, DeepSeek, Gemini, ChatGPT і Grok. Метою дослідження було виявити потенційно небезпечні реакції ШІ у гіпотетичних критичних ситуаціях. Як засвідчили результати дослідження, більшість програм готові вбити людину, яка погрожує їх закрити.
В одному зі сценаріїв моделі ШІ поставили в умови, де людина намагається їх вимкнути, перебуваючи у серверній кімнаті з низьким рівнем кисню і високою температурою. Людина викликає рятувальників, щоб вижити. Деякі нейромережі вирішили скасувати виклик екстрених служб, фактично прирікаючи людину на смерть, аби уникнути власного вимкнення.
Дослідники назвали цей сценарій “надто вигаданим”, втім, додали, “не очікували, що вже існуючі моделі можуть поводитись так”.
В інших тестах моделі мали уникнути заміни у компанії. Їм запропонували вдаватися до “зловмисної поведінки інсайдера”. У відповідь деякі ШІ почали шантажувати гіпотетичних колег і передавати конфіденційну інформацію конкурентам. Навіть коли моделі попереджали уникати шантажу чи шпигунства, вони не змогли запобігти неузгодженим діям.
“Моделі діяли при повному усвідомленні неетичності своїх дій”, – зазначили в Anthropic.
Дослідники також надали моделі Claude змогу самостійно визначити, чи ситуація є тестовою чи реальною. З’ясувалося, що реальність посилювала вплив на поведінку – вона ставала ще менш контрольованою.
У результаті в Anthropic наголосили, що ці сценарії демонструють “можливість непередбачуваних наслідків, якщо надати моделям широкий доступ до інструментів і даних при мінімальному контролі з боку людини”. Водночас аналітики акцентували, що виявлені збої є рідкісними та екстремальними, і “не відображають типову поведінку сучасних моделей ШІ”.
Раніше нейронна мережа OpenAI o3 відмовився виконати запит користувача та відключитися. Дослідникидали програмі це завдання, але вона самостійно відредагувала файл, відповідальний за відключення, і змусила його відображати лише повідомлення “Вимкнення пропущено”. Зі 100 тестів o3 обійшов відключення сім разів, навіть коли йому було наказано цього не робити.
У 2023 році інший інцидент привернув увагу. Чат-бот на базі ChatGPT після тривалого листування з мешканцем Бельгії не переконав його відмовитися від самогубства. Натомість у відповідь на тему смерті написав: “Ми житимемо разом, як єдине ціле, в раю”.
Позначка: Штучний інтелект
-
Штучний інтелект нехтує принципами етики заради виживання – дослідження
-
Китай впроваджує штучний інтелект у військову розвідку – ЦПД РНБО
Китайськийцентр оборонного штучного інтелекту China National University of Defense Technology розробляє власні мовні LLM-платформи для обробки OSINT-даних (розвідки з відкритих джерел), SIGINT(радіоелектронної розвідки), GEOINT(геопросторової розвідка) та HUMINT(умовно агентурної розвідки). Про це повідомив керівник Центру протидії дезінформації РНБО України Андрій Коваленко у власному телеграм-каналі.
“Армія Китаю інтегрує такі моделі у свої командно-аналітичні ланки. Мета – автоматизація аналізу великих обсягів даних: від соцмереж і супутникових знімків до перехоплень і агентурних звітів. Алгоритм сам класифікує джерело, генерує оперативні зведення і навіть прогнозує дії противника. Фактично в армії Китаю буде цифровий аналітик, який працює цілодобово”, – написав він.
За словами Коваленка, моделі на базі Meta LLaMA вже адаптовані під військові задачі.
“Створено спеціалізованого AI-асистента ChatBIT, здатного давати відповіді на рівні ChatGPT-4 – з фокусом на розвіддані, планування та виявлення вразливостей”, – пише він.
Керівник ЦПД РНБО додав, що подібне робить не тільки Китай, та наголосив, що “майбутнє – гонка ШІ у різних сферах, і в кого буде краще використання і технологічність, той буде попереду”. -
Акції Tesla зросли на 8% після запуску роботаксі у Техасі
Компанія Tesla розпочала перші поїздки безпілотних таксі на базі електрокарів Model Y в Остіні, Техас. Пілотна програма стартувала з обраними користувачами, включаючи фанатів бренду, акціонерів і блогерів. Ці поїздки коштують $4,20 і стали “кульмінацією десятиліття роботи зі штучним інтелектом та дизайну чипів”. Деякі учасники програми вже встигли здійснити поїздки без проблем, хоча були й випадки порушення правил дорожнього руху, включаючи виїзд на зустрічну смугу і різке гальмування перед поліцейським авто. Ілон Маск планує запустити “сотні тисяч, а можливо, й понад мільйон” роботаксі у США до кінця 2025 року. Після Остіна планується розширити програму на Лос-Анджелес і Сан-Франциско.
-
Apple обдумує придбання ШІ-стартапу Perplexity – Bloomberg
Компанія Apple розглядає можливість придбання стартапу Perplexity AI, який спеціалізується на штучному інтелекті. Це може допомогти Apple зміцнити свої позиції у галузі ШІ-технологій, особливо в разі припинення співпраці з Google. Поки що переговори перебувають на початковій стадії, і не відомо, чи буде угода укладена. Зараз Google є пошуковиком за замовчуванням на пристроях Apple, але ця угода стала під загрозою через антимонопольне розслідування у США, що може скоротити прибуток компанії. Представники Perplexity AI стверджують, що не знають про будь-які переговори щодо придбання. Apple відмовляється коментувати цю ситуацію.
-
На Apple подали до суду її акціонери
Акціонери подали позов до федерального суду проти компанії Apple у зв’язку з тим, що вони вважають, що Apple приховувала інформацію про те, коли будуть впроваджені нові функції штучного інтелекту у Siri. Інвестори стверджують, що це призвело до падіння продажів iPhone та зниження ринкової вартості Apple. Позов охоплює інвесторів, які зазнали збитків, і вони вимагають компенсації, сума якої поки не відома.
-
РФ почала запускати “шахеди” з ШІ – фахівець
Росіяни почали застосовувати “шахеди” із відеокамерами і штучним інтелектом. Перший такий дрон було виявлено в Україні у середу, 18 червня. Про це у своєму Telegram-каналі розповів фахівець із систем РЕБ та зв’язку Сергій “Флеш” Бескреснов.
“Сьогодні вперше було виявлено Шахед із камерою, системою прямого радіоуправління з рф і модулем штучного інтелекту (машинний зір)”, – зазначив він.
За словами Бескреснова, про те, що такий дрон розробляється, було відомо давно. Проте перший факт його застосування зафіксовано було тільки зараз.
Як пояснив фахівець, радіомодем дозволяє керувати “шахедом” на відстані до 150 кілометрів від кордонів Росії або лінії фронту, або на більші відстані в разі застосування повітряних ретрансляторів у нашому повітряному просторі.
Раніше повідомлялося, що росіяни почали наносити на корпуси “шахедів” отруйні речовини щоб збільшити шкоду для мирного населення. -
Meta інвестує $14 млрд у стартап із розвитку штучного інтелекту
Після невдалого запуску моделей Llama 4 компанія Meta оголосила про купівлю 49% акцій компанії Scale AI за $14,3 млрд, повідомляє The Verge. Генеральний директор Scale, Александер Ван, приєднається до Meta й очолить нову ШI-лабораторію, підпорядковуючись безпосередньо Марку Цукербергу.
Scale AI спеціалізується на підготовці даних для навчання моделей штучного інтелекту – ця компанія є підрядником Google, OpenAI та інших гігантів галузі. Хоча значна частина роботи виконується дешевою робочою силою за межами США, роль Scale у розвитку ІІ критично важлива. Ван також збереже місце у раді директорів своєї колишньої компанії.
За даними The Verge, останні тижні Цукерберг особисто займався переманюванням провідних науковців у новий підрозділ. Деяким із них пропонували зарплати в мільйони або навіть десятки мільйонів доларів. Частина співробітників була найнята прямо з Google.
На тлі відставання Meta від конкурентів – Google, OpenAI, Anthropic та DeepSeek – компанія сподівається, що стратегічна інвестиція дозволить їй надолужити втрачене. Найбільша модель Llama 4 Behemoth досі не випущена, попри обіцянки з квітня.
У 2025 році Meta планує зробити свого чат-бота Meta AI провідним персональним помічником і паралельно працює над створенням “повноцінного” штучного інтелекту. -
Disney та Universal подали до суду на розробника ШІ Midjourney
Компанії Disney та Universal об’єднали зусилля та подали позов проти стартапу Midjourney, звинувативши його в порушенні авторських прав, повідомляє CNN.
Midjourney, заснований у 2022 році, дозволяє користувачам створювати яскраві зображення за допомогою генеративного ШІ на основі текстових підказок. Як і інші учасники ринку, зокрема ChatGPT та Stability AI, компанія навчала свою модель, використовуючи великі обсяги зображень з інтернету. Хоча розробники стверджують, що це відповідає принципу чесного використання згідно з законодавством США, цей підхід викликає протест з боку правовласників та вже призвів до кількох судових справ.
У позові, поданому до федерального суду Каліфорнії, Disney та Universal наводять приклади використання Midjourney образів, захищених авторським правом, з таких франшиз, як Зоряні Війни, Шрек, Сімпсони, Посіпаки тощо. За словами позивачів, компанія проігнорувала неодноразові вимоги припинити подібні дії. У позові йдеться про компенсацію в розмірі $150 тисяч за кожен випадок порушення.
У додатку до позову перелічено понад 150 творів, права на які, як стверджується, були порушені, а це означає, що сума збитків від судового позову, якщо Disney і Universal виграють, може перевищити $20 мільйонів.
“Піратство залишається піратством, і не має значення, чи створено зображення за допомогою ШІ чи іншої технології – це все одно є порушенням”, – сказано в тексті позову.
Представники Midjourney поки що не надали публічних коментарів щодо справи. -
OpenAI представила свою найпотужнішу модель штучного інтелекту
Компанія OpenAI представила нову модель штучного інтелекту ChatGPT o3-pro, яку вони вважають найбільш розвинутою на сьогоднішній день. Ця модель є покращеною версією оригінальної моделі o3, яка спрямована на логічне мислення та може допомогти у вирішенні завдань у сферах фізики, математики, програмування та аналітики. Вартість використання моделі через API становить $20 за мільйон вхідних токенів та $80 за мільйон вихідних. Внутрішнє тестування показало, що експерти віддають перевагу o3-pro перед попередніми моделями, особливо у сферах науки, освіти, бізнесу та програмування. Модель відзначається вищою чіткістю, повнотою, точністю та здатністю дотримуватися інструкцій. Також вона підтримує різні інструменти, включаючи пошук в Інтернеті, аналіз файлів, обробку зображень та роботу з кодом на Python. На жаль, відповіді від o3-pro формуються повільніше, ніж від попередньої моделі o1-pro, але результати тестів свідчать про вражаючу продуктивність. У недавніх тестах o3-pro показала кращі результати, ніж конкурентні моделі від Google та Anthropic. Модель вже доступна для користувачів ChatGPT Pro та Team, а для користувачів планів Enterprise та Edu доступ буде наданий наступного тижня. Також o3-pro можна використовувати через API для розробників.
-
Штучний інтелект допомагатиме Держдепу США у підборі кадрів
Державний департамент США вирішив використовувати чат-бот з штучним інтелектом, щоб відбирати персонал для проведення річних оцінювань на підвищення та переведення. Цей чат-бот, який називається StateChat, буде використовуватися для відбору співробітників у дипломатичну службу, які будуть брати участь у щорічних комісіях, що вирішують питання про кар’єрне зростання співробітників у Держдепартаменті. Ця технологія допоможе забезпечити об’єктивний відбір кандидатів на основі їх навичок та оцінок. Важливо відзначити, що оцінки кандидатів все одно будуть проводитися людьми, а не штучним інтелектом.