Закликають Apple видалити функцію штучного інтелекту після скандалу з хибним заголовком

Велика журналістська організація закликала Apple відмовитися від своєї генеративної AI-функції, після того як інструмент помилково приписав заголовок про високопрофільну справу про вбивство до BBC News.

У четвер BBC повідомила, що виникли сперечності після того, як нова функція Apple, Apple Intelligence, неправильно сформувала заголовок. Вона натякала, що Луїджі Мангіоне, підозрюваний у вбивстві голови страхової компанії у сфері охорони здоров’я Брайана Томпсона, застрелив себе. Таку статтю BBC не публікувала.

Репортери без кордонів (RSF), міжнародна організація, що допомагає свободі преси, критикували Apple, заявивши, що цей інцидент підкреслює ризики, які незрілі ІА-інструменти створюють для кредиту медіа та довіри громадськості.

Вінсент Бертьє, керівник відділу технологій та журналістики RSF, засудив цей промах, назвавши його “ударом по кредиту ЗМІ” та загрозою доступу громадськості до надійної інформації. RSF вимагає, щоб Apple негайно видала функцію.

“Європейський акт про штучний інтелект — незважаючи на те, що він є найбільш передовим законодавством у світі в цій сфері — не класифікував AI, що генерують інформацію, як системи високого ризику, залишаючи критичну правову порожнечу. Цей пробіл має бути заповнений негайно,” сказала Бертьє.

BBC підтвердило, що подало формальну скаргу на технологічного гіганта і запросило розв’язання, але все ще невідомо, чи відповіла Apple.

Несправжні підсумки AI не обмежувались лише новинами BBC. 21 листопада ця функція неправильно узагальнила статтю New York Times, помилково стверджуючи, що ізраїльського прем’єр-міністра Беньяміна Нетаньягу арештували, як повідомлялося у статті BBC.

Це повідомлення, яке пізніше висвітлив журналіст Кен Швенке, насправді стосувалося ордеру Міжнародного кримінального суду проти Нетаньягу.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence, має на меті зменшити перерви від сповіщень, резюмуючи та групуючи їх. Доступний на iPhone, що працюють на iOS 18.1 та новіших моделях, а також на деяких iPad та Mac, цей інструмент зіткнувся з критикою за неправильне відображення інформації від авторитетних новинних ресурсів.

Речник BBC наголосив, що хоча деякі групові сповіщення точно резюмували розповіді про світові події, дезінформація, пов’язана з Mangione, показала потенційну шкоду, яку технологія може заподіяти як ЗМІ, так і загальному розумінню громадськості.

RSF попередила, що “Цей інцидент демонструє, що генеративні AI-сервіси все ще занадто незрілі для надання надійної інформації громадськості, та не повинні допускатись до ринку для таких цілей.”

Ars Technica оглянула резюме сповіщень Apple, вказавши на кілька проблем, які часто виникають. По-перше, хоча деякі резюме є фактично вірними, вони звучать роботизовано та незручно, особливо при чутливих темах, таких як відносини або психічне здоров’я. Інші неправильно розуміють сарказм, сленг або ідіоматичні вирази, часто інтерпретуючи їх занадто буквально.

Втрата контексту – ще одна серйозна проблема, особливо коли у резюме не враховуються попередні повідомлення в потоці або не враховується мультимедійний контент. У групових чатах з кількома темами резюме може стати перевантаженим, змішуючи предмети і призводячи до неточностей.

Нарешті, деякі резюме просто неправильні, часто через спробу згорнути занадто багато інформації в занадто мало слів, що призводить до спотворених висновків. В цілому, ці проблеми, які впливають на корисність і точність цієї функції, часто зустрічаються в повсякденному використанні.

Мангіоне, якого тепер звинувачують у вбивстві першого ступеня, став центром уваги в дебатах про ризики, пов’язані з AI в журналістиці. Надійність суспільства на достовірні новини залишається під загрозою, оскільки Apple зіткнулася зі зростаючим тиском, щоб вирішити цю проблему.