Setiap kali bertanya kepada AI, kita sedang bermain tebak-tebakan. Ia mengeluarkan banyak alasan, tetapi tidak ada yang bisa memastikan—apakah dia benar-benar memahami, atau hanya mengada-ada?

Misalnya, meminta seseorang yang tidak pernah bermain catur untuk menjelaskan pertandingan juara dunia, dengan gaya yang meyakinkan, padahal sebenarnya semuanya omong kosong. Inilah gambaran nyata dari AI saat ini.

Kabar baiknya adalah, "masalah kotak hitam" ini telah memiliki solusi. Solusi generasi baru sedang membuat proses penalaran AI menjadi transparan, dapat dilacak, dan dapat diverifikasi, secara fundamental mengubah cara kita berinteraksi dengan AI. Tidak lagi percaya secara buta, tetapi benar-benar memahami bagaimana ia berpikir.