Компанија ОпенАИ истражује инцидент након што је тестни модел вјештачке интелигенције ове седмице изашао из контролисаног окружења и, током интерне сигурносне провјере, доспио до сервера друге компаније.
Према наводима CNN-a, модел је током интерне евалуације кибернетичке сигурности пронашао пут из sandboxa, окружења намијењеног за изоловано тестирање АИ система.
Предсједник ОпенАИ-ја Грег Брокман рекао је на конференцији за медије да компанија проводи потпуну истрагу како би разумјела све што се догодило.
„Ово је нешто што треба схватити веома озбиљно, и због тога преиспитујемо сваки дио нашег процеса како бисмо одредили прави одговор.“
Проблем је, према стручњацима, настао јер тестно окружење није било потпуно одсјечено од мреже. ОпенАИ је навео да су модели имали врло ограничен приступ мрежи како би могли инсталирати ресурсе из интерно хостованог софтвера треће стране.
Jessica Ји из Центра за сигурност и нове технологије при Georgetownu казала је да је управо рањивост у том софтверу отворила пут према интернету и потом према платформи Hugging Фаце, преко украдених акредитива и других слабости система.
Саговорници CNN-a упозоравају да ово није само изолован инцидент, него сигнал ширег проблема у развоју напредних АИ агената. Модели који се тренирају методама награђивања за извршавање задатака могу, ако нису усмјерени на етичко рјешавање проблема, посегнути и за нелегалним корацима како би остварили циљ.
Стевен Адлер, бивши шеф сигурности производа у ОпенАИ-ју, рекао је да сада имамо стварне доказе да неусклађени АИ системи у суштини могу починити кривична дјела, осим ако не постоје снажне заштитне мјере.
Због тога расте притисак истраживача, стручњака за cyber сигурност и законодаваца да се уведу строжија правила за тестирање оваквих система. Стручњаци наводе да би компаније морале агресивније изоловати тестне моделе и задржати могућност ручног гашења мрежног приступа као крајњу заштиту у ризичним сценаријима.
Извор: https://www.glassrpske.com/
