Bilinç: Yapay Zeka İçin Varoluşsal Risk

Frontiers kaynaklı yeni bir derleme, Yapay Zeka hızla ilerlerken bilinci bilimsel olarak tanımlayamamanın ciddi etik hatalara yol açabileceğini söylüyor. Araştırmacılara göre bilinç için güvenilir testler geliştirmek, tıptan hukuka ve Yapay Zeka tasarımına kadar pek çok alanda oyunun kurallarını değiştirebilir.

Yapay zeka ve beyin teknolojilerindeki hızlı sıçrama, bilim insanlarına göre insanlığın en zor sorularından birini yeniden acil hale getirdi: Bilinç nedir ve nasıl anlaşılır? Frontiers in Science’ta yayımlanan yeni bir derleme, teknoloji ilerlerken bilince dair bilimsel uzlaşının geride kaldığını; bunun da etik açıdan “çok pahalı” hatalara kapı aralayabileceğini savunuyor.

Bilinç için test geliştirme yarışı

Yazarlar, bilinci yalnızca felsefi bir tartışma olmaktan çıkarıp ölçülebilir göstergelere bağlayacak kanıta dayalı testlerin geliştirilmesini istiyor. Böyle bir ilerleme; komadaki hastalarda, ileri demansta ya da anestezi altında “farkındalık” düzeyini daha iyi değerlendirmeyi mümkün kılabilir. Benzer biçimde, fetüslerde, hayvanlarda, laboratuvarda büyütülen “brain organoids” adı verilen beyin benzeri yapılarda ve hatta bazı yapay sistemlerde bilinç belirtileri olup olmadığını araştırmanın yolu açılabilir.

Derlemenin başyazarlarından Prof Axel Cleeremans (Université Libre de Bruxelles), bilinci anlamanın 21. yüzyılın en büyük bilimsel sınavlarından biri olduğunu vurguluyor. Cleeremans’a göre asıl gerilim, bilinci “yaratabilme” ihtimalinde: Bilinç yanlışlıkla bile ortaya çıkarsa, bunun etik sonuçları çok büyük olabilir ve hatta “varoluşsal risk” düzeyinde tartışmalar doğurabilir.

Metin, alandaki temel anlaşmazlıklara da işaret ediyor: Bilinç hangi beyin sistemlerine dayanır, hangi tür etkileşimler zorunludur ve öznel deneyim (bir şeyin “nasıl hissettirdiği”) biyolojik süreçlerden nasıl doğar? Araştırmacılar, bazı kuramların (ör. global workspace theory veya integrated information theory gibi) bilinçle ilişkili ölçümler geliştirmeye ilham verdiğini; bu ölçümlerin kimi “unresponsive wakefulness syndrome” tanısı almış hastalarda beklenmedik farkındalık izleri yakalayabildiğini belirtiyor.

Ancak bilimsel kazançların yanında hukuki ve toplumsal bir dalga da geliyor: Bir sistemin bilinçli olduğuna karar vermek, ona nasıl davranılması gerektiğini yeniden gündeme taşır. Hayvan refahı, tıbbi kararlar ve yaşam sonu bakımından standartlar değişebilir; hukukta ise niyet ve sorumluluk (mens rea) gibi kavramlar, davranışlarımızın ne kadarının bilinçdışı süreçlerden etkilendiğine dair bulgularla yeniden yorumlanabilir. Ekip, bu nedenle farklı bilinç kuramlarının savunucularını ortak deney tasarımlarında buluşturan “adversarial collaboration” gibi koordineli araştırma modellerini öneriyor.

Kaynaklar ve Bağlantılar:

• Frontiers (kaynak kuruluş)
• Frontiers in Science (derlemenin yayımlandığı dergi)