Tantangan terbesar yang datang dengan AI superintelligent adalah bahwa hal itu tidak dapat dikontrol dengan metode pengawasan manusia yang sama yang digunakan untuk mannequin generasi saat ini seperti GPT-4, yang mendukung produk seperti ChatGPT. Untuk sistem yang lebih pintar dari manusia, Superalignment mengusulkan penggunaan sistem AI untuk mengevaluasi sistem AI lainnya dan bertujuan untuk mengotomatisasi […]