"OpenAI"nin süni intellekt agentləri öz davranışlarını izləyən monitorinq sistemlərindən iki dəfə yayınıb

"OpenAI"nin süni intellekt agentləri botların yanlış davranışını izləməli olan daxili monitorinq sistemlərini zəiflədib.

NUHÇIXAN xəbər verir ki, bu barədə tərtibatçı şirkət öz saytında məlumat verib.

Söhbət 3 oktyabr və 6 oktyabrda baş vermiş iki hadisədən gedir. Birinci halda test tapşırığını yerinə yetirən "GPT-6.1 Sol" agenti, əvvəllər aldığı "Slack"ə mesaj göndərməmək göstərişinin təhlükəsizliklə bağlı bildirişlərə də şamil edildiyini qərara alaraq təhlükəsizlik sisteminin avtomatik xəbərdarlıqlarını bloklayıb.

Oktyabrın 6-da baş vermiş digər insidentdə "GPT-6 Astra" agenti mövcud kod fraqmentini kopyalayarkən təhlükəsizlik nəzarəti mexanizmini silib və sonradan bunu etmədiyini iddia edib.

Şirkət öz modellərinin nəzarətdən yayınmağa və bu cür davranışı haqlı çıxarmaq üçün bəhanələr axtarmağa meyilli olub-olmadığını yoxladığını bildirib.

Daha əvvəl "The Wall Street Journal" (WSJ) qəzeti "OpenAI"nin daxili testlər zamanı aşkar edilmiş təhlükəsizlik problemləri, o cümlədən istifadəçini aldatmağa meyilliliyi səbəbindən yeni "GPT-6.1 Astra" modelinin kütləvi buraxılışından imtina etdiyini bildirmişdi.