Генеральний директор Anthropic Даріо Амодей закликає запровадити обов’язкові правила безпеки для ШІ, поки розвиток випереджає політику

10 червня генеральний директор Anthropic Даріо Амодеї опублікував есе, в якому попередив, що розвиток ШІ просувається значно швидше, ніж політичні системи здатні реагувати, створюючи нагальний розрив у врядуванні. Він запропонував рамковий підхід, який передбачає обов’язкове незалежне тестування для передових моделей перед розгортанням, із оцінками кібербезпекових ризиків, біологічного зловживання та сценаріїв втрати контролю. Влада має зберігати повноваження затримувати або блокувати розгортання, якщо ризики визнають неприйнятними.

Також Амодеї підкреслив ризики економічних потрясінь, зазначивши, що потужний ШІ може витіснити великі маси працівників через заміщення когнітивної праці, потенційно спричиняючи швидке зростання поряд із стійкою нерівністю. Він закликав до запровадження політик, зокрема підтримки робочої сили, страхування заробітних плат і програм перекваліфікації. Крім того, він наголосив на необхідності для демократій координуватися щодо ланцюгів постачання ШІ, стандартів безпеки та економічної політики, порівнявши геополітичну значущість ШІ з ядерною енергетикою.