CEO Anthropic Даріо Амодей та CEO OpenAI Сем Альтман виступили за сповільнення розвитку найпотужніших систем штучного інтелекту. Вони вважають, що це необхідно для посилення безпеки та створення механізмів контролю за розвитком технології.
Про це йдеться у статтях We Must Pace the Frontier та Bloomberg.
Амодей закликав сповільнити темпи розвитку найпотужніших систем ШІ, щоб фахівці з безпеки встигали за зростанням їхніх можливостей. Він наголосив, що не йдеться про повну зупинку прогресу, а про більш контрольований розвиток технології.
Однією з причин занепокоєння глава Anthropic назвав рекурсивне самовдосконалення ШІ, коли штучний інтелект використовується для створення та покращення наступних поколінь моделей. За його оцінкою, цей процес може випередити здатність розробників розуміти та контролювати такі системи.
Амодей також запропонував залучати незалежних зовнішніх експертів до роботи провідних ШІ-компаній, встановити спільні стандарти безпеки та посилити міжнародну координацію.
Він вважає, що додаткові 1-2 роки до появи ШІ з критично високими можливостями могли б дати дослідникам час для вдосконалення методів безпеки та перевірки поведінки моделей.
Паралельно CEO OpenAI Сем Альтман повідомив співробітникам компанії, що OpenAI може сповільнити розвиток передових систем ШІ, потенційно координуючи такі дії з іншими розробниками.
Головний науковець OpenAI Якуб Пачоцький також заявив, що ШІ-компаніям варто координувати сповільнення майбутньої розробки за потреби, доки не будуть встановлені спільні стандарти безпеки.
За даними Bloomberg, OpenAI вже сповільнила окремі етапи розробки моделей і нещодавно призупиняла частину внутрішнього навчання ШІ через побоювання щодо безпеки.
При цьому Альтман та Амодей не виступають за повну відмову від розвитку штучного інтелекту. Йдеться про контроль темпів розробки найпотужніших систем та посилення заходів безпеки.
Нагадаємо, що уСША система розпізнавання облич на основі штучного інтелекту помилково звинуватила жительку штату Теннессі Анджелу Ліппс у банківському шахрайстві. Через це жінка провела майже 6 місяців у в’язниці, поки докази не підтвердили її невинуватість.
