'Обурливо': новий інструмент Grammarly з штучним інтелектом пропонує зворотній зв'язок щодо написання від імені вчених, які вже пішли

Коротко

• Функція «Експертний огляд» Grammarly надає зворотний зв’язок щодо написання за допомогою штучного інтелекту, поданого через іменованих експертів.
• Вчені стверджують, що система включає вчених, які вже померли, що викликає змішані реакції у користувачів.
• Критики ставлять під сумнів здатність компанії використовувати особистості вчених без їхньої згоди.

Нова функція Grammarly, яка надає зворотний зв’язок щодо написання з урахуванням точки зору відомих «експертів», викликає критику серед академіків, які стверджують, що інструмент начебто «воскрешає» вчених для перегляду робіт користувачів. Функція, названа Expert Review, аналізує текст і генерує відгуки, подані з точки зору конкретних учених, журналістів та інших фахівців. Багато з експертів, яких імітує цей штучний інтелект, вже померли — що один середньовічний історик на BlueSky назвав «морбідним». Запущений у 2009 році як інструмент для допомоги у написанні та граматиці з підтримкою штучного інтелекту, материнська компанія Grammarly у жовтні перейменувалася на Superhuman, щоб відобразити перехід від одного помічника для написання до набору AI-інструментів для підвищення продуктивності, включаючи інструменти для досліджень, планування, електронної пошти та автоматизації робочих процесів.

У минулому літом Grammarly представила функцію Expert Review. За допомогою розширення браузера Grammarly користувачі, які обирають версію Superhuman Go, можуть обрати експерта та отримати AI-згенерований відгук, заснований на галузі або публікаціях цього вченого.  «Наш агент Expert Review аналізує написане користувачем, будь то маркетинговий короткий звіт чи студентський проект з біорізноманіття, і використовує наш базовий LLM для виявлення експертного контенту, який може допомогти автору сформувати свою роботу», — повідомив представник Superhuman у Decrypt. «Обрані експерти залежать від змісту оцінюваного тексту.» Представник пояснив, що агент Expert Review не претендує на підтримку або безпосередню участь цих експертів, а надає «пропозиції, натхненні роботами експертів, і спрямовує користувачів до впливових голосів, чиї дослідження вони можуть досліджувати глибше».

«Експерти в Expert Review з’являються тому, що їхні публікації є публічно доступними та широко цитуються», — додали вони. Під час тестування цієї функції для цієї статті, експертів, запропонованих додатком, включали Маргарет Салліван, медіа-колумніста та колишнього редактора New York Times, Джек Шафер, колишнього старшого медіа-редактора Politico, та Лоренса Лесіга, професора Гарвардської школи права. Інші варіанти включали дослідника етики штучного інтелекту Тимніт Гебру та Хелен Ніссенбаум, професора інформаційних наук у Cornell Tech. Хоча ця функція має допомогти студентам і фахівцям покращити свої навички письма, Ванесса Хеггі, професор історії в Бірмінгемському університеті, поставила під сумнів, чи надали «рецензенти» свою згоду на використання їх у додатку. «Я не знаю, з чого почати, але… Grammarly тепер пропонує "експертний огляд" вашої роботи живими та померлими академіками», — написала Хеггі у LinkedIn. «Так, померлими — без чийогось явної дозволу створює маленькі LLM на основі їхньої зібраної роботи та використовує їхні імена й репутацію. Обурливо.» Бріель Харбін, колишня доцентка політології в Військово-морській академії США, назвала це «дивним і тривожним розвитком». «Такі рішення — особливо коли їх приймають без контексту, згоди або значущого партнерства з освітянами — ризикують поглибити скептицизм щодо інструментів штучного інтелекту у вищій освіті», — написала вона у LinkedIn. «Іронічно, що рішення, спрямовані на прискорення впровадження, можуть навпаки посилити опір. Довіра та співпраця зараз дуже важливі.» Grammarly — лише одна з компаній, що створює програми штучного інтелекту, які імітують реальних людей. У 2023 році Meta випустила лінійку чат-ботів для платформи Meta AI, побудованих навколо особистостей знаменитостей, включаючи Snoop Dogg, Тома Бреді, Кендалл Дженнер і Наомі Осака. У тому ж році Khan Academy запустила свого AI-репетитора Khanmigo, який дозволяє студентам грати ролі у розмовах із історичними особистостями, зокрема з прем’єр-міністром Великої Британії Вінстоном Черчиллем і шпигуном Громадянської війни США та керівником підпільної залізниці Гаррієт Тубман.