banner31
banner6
banner1

Ürkütücü gelişme: Yapay zeka gizli bir dil yarattı

06 Haziran 2022 Pazartesi 17:34
33 Okunma
Ürkütücü gelişme: Yapay zeka gizli bir dil yarattı

Open AI’ın  DALL-E2 adlı yapay zeka sistemi kendine özgü gizli bir geliştirdiği ve kelimelerin hiçbir dilde karşılığı olmadığı belirtildi. Bu gelişme bazı yapay zeka meraklılarını ürküttü.

Ünlü yapay zeka firması Open AI’ın  DALL-E2 adlı yapay zeka sistemi kendine özgü bir dil geliştirdi.

Yazılı ifadeleri son derece gerçekçi görsellere dönüştürebilen sistemin kullandığı bazı kelimelerin başka hiçbir dilde karşılığı olmadığı görüldü.

2015’te kurulan teknoloji devi, yazılı tanımları görsele dönüştürme amacıyla DALL-E isimli bir yapay zekâ sistemini geliştirmeye başlamıştı.

Firma önceki aylarda bu sistemin daha gelişkin versiyonu DALL-E2’yu kullanmaya başlamıştı.

Bu sistem, kendisiyle paylaşılan nitelikler ve tanımları baz alarak benzersiz görseller ve sanat eserleri oluşturabilme yeteneğiyle büyük ilgi toplamıştı.

Ancak kendi gizli dilini oluşturması bazı yapay zeka meraklılarını ürküttü.

Sistemin gizli dilini ABD’deki Texas Üniversitesi’nde bilgisayar bilimi alanında doktora öğrencisi Giannis Daras fark etti.

Daras, viral olan bir Twitter zincirinde yapay zeka sistemiyle ilgili incelemesini takipçileriyle paylaştı.

Zincirde aktarılana göre, Daras sistemden “sebzeler hakkında konuşan çiftçiler” görüntüsünü oluşturmasını istedi.

Ortaya çıkan görüntüde gerçekten de iki çiftçinin bir şeyler hakkında konuştuğu görülüyordu. Çiftçilerden birinin elinde yeşil yapraklı sebzeler vardı.

Öte yandan görselin üst kısmında göze çarpan “vicootess” kelimesi Daras ve bir meslektaşının dikkatini çekti. Zira bu kelimenin hiçbir dilde karşılığı yoktu.

Daha sonra kelimeyi algoritmaya geri yükleyen Daras, bunun yapay zeka sisteminin kendi dilinde sebze anlamına geldiğini keşfetti. Zira sistem bu kelime karşılığında sebze görüntüleri oluşturuyordu.

Bunun ardından sıra ilk görseldeki çiftçilerin konuşma balonları içinde yazan kelimelere geldi: “Poploe vesrreaitars”.

Daras bu kelimeleri sisteme yüklediğinde de birçok kuş görüntüsü elde ettiğini aktardı:

Görünüşe göre çiftçiler sebzeleriyle uğraşıyor ve kuşlardan bahsediyor!
Daras, bu tespitlerini meslektaşıyla kaleme aldığı, henüz hakem onayından geçmemiş bir makalede de anlattı.

Sistemin birincil işlevinin altında yatan veya onunla paralel çalışan bir “gizli sözcük dağarcığı” oluşturduğunu ifade eden bilim insanı, tweet zincirinde şöyle yazdı:

DALLE-2’nun gizli bir dili var. Bu keşif, güvenlik ve yorumlamayla ilgili birçok sorun yaratıyor.

Haber: Independent Türkçe

banner42
Son Güncelleme: 06.06.2022 17:36
Yorumlar
Avatar
Adınız
Yorum Gönder
Kalan Karakter:
Yorumunuz onaylanmak üzere yöneticiye iletilmiştir.×
Dikkat! Suç teşkil edecek, yasadışı, tehditkar, rahatsız edici, hakaret ve küfür içeren, aşağılayıcı, küçük düşürücü, kaba, müstehcen, ahlaka aykırı, kişilik haklarına zarar verici ya da benzeri niteliklerde içeriklerden doğan her türlü mali, hukuki, cezai, idari sorumluluk içeriği gönderen Üye/Üyeler’e aittir.
banner14