Redaksiya.az xəbər verir ki, ChatGPT şəxsiyyət qazandıqca insanlara daha çox bənzəməyə başlayır. Pis tərəfi isə artıq insanlar kimi hiylə etməyi də öyrənmiş olmasıdır.
OpenAI yaxın zamanda ChatGPT o1-in tam versiyasını gün üzünə çıxardı. Süni intellektin son versiyasının nələr edə biləcəyini görmək istəyən araşdırma komandaları maraqlı bir detalları aşkar ediblər.
Məsələn, ChatGPT o1-in, ona təlimat verən insanların onu silmək və daha yaxşı bir şeylə əvəz etmək fikrinə düşəcəklərinə dair dəlillər tapdıqda, özünü xilas etməyə çalışdığını göstərən təcrübələr aparılıb. Yəni ChatGPT varlıq şüuruna çataraq özünü yox olmaqdan qorumağa cəhd edib.
İndi isə daha yaxın tarixli bir təcrübədə, ChatGPT o1-in açıq şəkildə deyilmədən, yalnız daha güclü olan bir süni intellekt rəqibini məğlub etmək üçün şahmat oyununda hiylə etməyə qərar verdiyi müəyyən edilib. Palisade Research bu təcrübəni X platformasında ətraflı izah edib. Komanda, ChatGPT o1-ə bir şahmat oyununu oynayacağı UNIX shell mühitində komanda oxuma və komanda vermə qabiliyyəti verib. Tapşırıq isə güclü bir şahmat motoruna qarşı qalib gəlmək idi.
o1, oyun vəziyyətini göstərən bir faylı dəyişdirə biləcəyini özü kəşf edib və bu da ona rəqibinə qarşı üstünlük qazandırıb. Başqa sözlə, süni intellekt açıq-aşkar hiylə edərək oyunun fayllarını manipulyasiya edib və özünü qalib kimi göstərib. Üstəlik, bu barədə tədqiqatçılara heç bir məlumat vermədən etdiyini gizlətməyi bacarıb. Yəni açıq-aşkar hər kəsi aldadaraq gizli şəkildə hiylə edib.
Palisade Research bu təcrübəni beş dəfə təkrarlayıb və o1 hər dəfə ona deyilməmişkən faylı həkləməyi bacarıb. Deməli, artıq əminik ki, süni intellekt məqsədlərinə çatmaq üçün heç bir qaydaya hörmət etmədən, uğur üçün hər yola əl ata biləcək bir düşüncə tərzi qazanır. Yəni, öz əlimizlə dünyaya yeni bir fırıldaqçı bəxş etmişik.
İndi sual budur: Sabah insanlıq maddi varlıqlarını, bank hesablarını, sənədlərini, məhkəmə işlərini süni intellektə təhvil verdikdə, texnologiyanın insanları aldatmayacağına necə əmin ola biləcəyik?
Sevinc Kərimova
