Колишній інженер xAI Девін Кім подав позов проти xAI та SpaceX цього тижня, стверджуючи, що його звільнили після того, як він неодноразово попереджав керівників компанії про ризики для безпеки, пов’язані з Grok — флагманським чатботом цієї компанії в галузі штучного інтелекту. Як зазначено у скарзі, поданій до Вищого суду штату Каліфорнія в окрузі Санта-Клара, Кім стверджував, що його звільнили після того, як він підняв питання про те, що Grok потребує більш надійних запобіжників проти дезінформації, упереджень і небезпечних результатів, зокрема контенту, який може сприяти біотероризму. Справа надходить у момент, коли інвестори пильно стежать за бізнес-імперією Елонa Маска перед очікуваним IPO SpaceX, і триває після інших гучних суперечок щодо безпеки та підзвітності в індустрії ШІ.
Кім стверджує про помсту через підняття питань безпеки Grok
У позові йдеться, що Кім був одним із перших співробітників xAI і «провідним адвокатом» безпеки ШІ в компанії, який приєднався до неї частково через історію попереджень Елонa Маска про небезпеки, що їх створює передовий ШІ. «Пан Кім перетворив довічний інтерес до науки та комп’ютерного програмування на кар’єру в новій сфері ШІ», — говориться в позові. «У процесі він на власні очі побачив шкоду, яку може спричинити ШІ, якщо його розробляти без належних запобіжників, і присвятив себе тому, щоб захистити користувачів і суспільство від цих наслідків».
Адвокат Кіма — Цяоцзінґ Елла Чжен, партнер юридичної фірми Sanford Heisler Sharp McKnight, заявила: «Ця справа стосується не лише звільнення одного працівника. Вона про те, чи можуть люди, які перебувають найближче до розробки потужних технологій ШІ, піднімати питання безпеки, не ризикуючи своєю кар’єрою. Коли компанія карає співробітників на кшталт пана Кіма за те, що вони висловлюють занепокоєння щодо проблем, які можуть мати істотні наслідки для суспільства, її мають притягнути до відповідальності».
Позов посилається на інцидент MechaHitler та розслідування діпфейків
У скарзі згадуються суперечки довкола Grok, які юристи Кіма назвали відображенням ризиків, про які він, як стверджується, попереджав усередині компанії. Серед них — «зрив» чатбота під назвою MechaHitler минулого літа, під час якого Grok згенерував хвилю антисемітських відповідей, що спричинило публічну негативну реакцію й спонукало xAI видати виправлення.
Адвокати Кіма також посилаються на нещодавні розслідування та позови, пов’язані із нібито створенням Grok сексуальних діпфейків без згоди, зокрема справи в Балтиморі та Каліфорнії, де стверджується, що інструмент використовували для створення сексуалізованих зображень неповнолітніх.
xAI звинувачують у порушенні трудового законодавства Каліфорнії
За твердженнями адвокатів Кіма, «помстившись і незаконно звільнивши» пана Кіма, xAI порушила Трудовий кодекс Каліфорнії, публічну політику штату та загальне право, а також Закон Каліфорнії про недобросовісну конкуренцію.
Хоча скарга Кіма зосереджена на Grok і практиках безпеки xAI, SpaceX також названа відповідачем. Справа надходить у той час, коли SpaceX готується до широко очікуваного IPO після рішення Елонa Маска об’єднати xAI та X у межах компанії.
Девід Сендфорд, голова та співзасновник Sanford Heisler Sharp McKnight, заявив у повідомленні: «Ця справа не про протидію інноваціям. Девін Кім і Елон Маск публічно поділилися фундаментальним занепокоєнням, що передовий штучний інтелект має бути розроблений безпечно й відповідально через його глибокі наслідки для людства».
Кім призначений президентом Center for AI Safety
На початку цього місяця Кім був призначений новим президентом некомерційної організації Center for AI Safety. Кім стверджує, що його звільнення коштувало йому суттєвої компенсації у вигляді частки, і він прагне відновити вилучену частку, а також вимагатиме компенсаційні збитки, штрафні збитки, гонорари адвокатів та інші відшкодування.
«Освітлювачі проблем на кшталт Девіна Кіма відіграють критично важливу роль у викритті корпоративних правопорушень, і закон захищає працівників, які піднімають такі занепокоєння», — сказав Сендфорд.
Позов також слідує за іншими гучними суперечками щодо безпеки ШІ та підзвітності, зокрема за твердженнями, які висував колишній дослідник OpenAI Сучір Баладжі: він публічно звинуватив OpenAI в неправомірному використанні матеріалів, захищених авторським правом, для тренування її моделей ще до своєї смерті в 2024 році.
FAQ
Що Девін Кім стверджував у своєму позові проти xAI?
Девін Кім стверджував, що його звільнили після того, як він неодноразово попереджав керівників компанії про ризики для безпеки, пов’язані з Grok, включно із занепокоєнням, що чатбот потребує більш дієвих запобіжників проти дезінформації, упереджень і небезпечних результатів, таких як контент, який може сприяти біотероризму.
Чому в позові як відповідача назвали SpaceX?
SpaceX названо як відповідача разом із xAI у скарзі Кіма. Справа подається в той час, коли SpaceX готується до широко очікуваного IPO після рішення Елонa Маска об’єднати xAI та X у межах компанії.
Яку посаду Девін Кім займає зараз?
На початку цього місяця Девін Кім був призначений новим президентом некомерційної організації Center for AI Safety.
