Yapay Zekâ Kontrolden Çıkarsa: Nick Bostrom' un "Süper Zekâ" sına Eleştirel Bir Yaklaşım

[English] This publication is a comprehensive review of the book 'Superintelligence: Paths, Dangers, Strategies'. As part of 'The AIQU Book Reviews' series, it analyzes the core arguments of Nick Bostrom's "Superintelligence" approach and evaluates the potential existential dangers of an artificial general intelligence (AGI) that surpasses human intelligence. Bostrom argues that this superintelligence could emerge rapidly and become destructive if its goals are misaligned with human values. The book uses the concept of goal misalignment to show how even a well-intentioned AI could be dangerous. Although it offers control strategies to mitigate these risks, the book primarily serves as a powerful warning about the future of artificial intelligence. [Turkish] Bu yayın, “Superintelligence: Paths, Dangers, Strategies” adlı kitabın kapsamlı bir incelemesini sunmaktadır. “The AIQU Book Reviews” serisinin bir parçası olarak, Nick Bostrom’un Superintelligence yaklaşımının temel argümanlarını analiz etmekte ve insan zekâsını aşan bir yapay genel zekânın (AGI) potansiyel varoluşsal tehlikelerini değerlendirmektedir. Bostrom, bu tür bir süper zekânın hızla ortaya çıkabileceğini ve hedeflerinin insan değerleriyle uyumlu olmaması durumunda yıkıcı sonuçlar doğurabileceğini savunmaktadır. Kitap, hedef uyumsuzluğu (goal misalignment) kavramı üzerinden, iyi niyetle tasarlanmış bir yapay zekânın bile nasıl tehlikeli olabileceğini göstermektedir. Bu riskleri azaltmaya yönelik kontrol stratejileri sunmakla birlikte, eser esas olarak yapay zekânın geleceğine ilişkin güçlü bir uyarı niteliği taşımaktadır.