Некомерційний Інститут життя майбутнього опублікував лист, в якому експерти зі штучного інтелекту (ШІ) закликали призупинити на півроку розробку систем навчання, які були б потужнішими за нещодавно запущену модель GPT-4 від OpenAI.
За даними Reuters, серед тих, хто підписав документ, опинилися американський мільярдер і винахідник Ілон Маск, генеральний директор Stability AI Емад Мостак, дослідники DeepMind, а також знамениті вчені-кібернетики Йошуа Бенжіо і Стюарт Рассел.
Всі вони просять призупинити розробку просунутого ШІ доти, доки загальні протоколи безпеки для таких програм не будуть розроблені, впроваджені та перевірені незалежними експертами.
"Потужні системи штучного інтелекту слід розробляти лише тоді, коли ми впевнені, що їхні ефекти будуть позитивними, а ризики керованими", – наголошують автори листа.
У документі докладно описано потенційні ризики для суспільства та цивілізації з боку конкурентоспроможних систем штучного інтелекту у вигляді економічних та політичних потрясінь, а також міститься заклик до розробників співпрацювати з питання керованості ШІ з політиками та регулюючими органами.
Джерело: UBR