Pada tahun 2025, sebuah pasukan pemasaran sebuah syarikat e-dagang bersaiz sederhana di Taiwan terdiri daripada lima orang yang bergilir-gilir menguruskan tiga akaun media sosial. Kata laluan disimpan dalam Helaian Google yang dikongsi, yang boleh diakses oleh semua orang. Tiada siapa yang melihat sebarang kesalahan dengan ini sehinggalah mereka memutuskan untuk memperkenalkan ejen AI untuk mengautomasikan penyiaran.

Naluri pertama saya ialah: "Berikan sahaja kunci akaun kepada ejen."

Gerak hati ini wujud dalam hampir setiap syarikat yang mula menggunakan AI. Dan ia hampir selalu salah.

Sebelum melatih ejen, ajukan soalan.

Kebanyakan orang yang bercakap tentang ejen AI memberi tumpuan kepada keupayaan mereka: Bolehkah ia mencari? Bolehkah ia menulis laporan? Alatan apa yang boleh disambungkannya? Semua ini adalah soalan yang sah, tetapi ia adalah soalan kedua.

Persoalan utamanya ialah: Apakah yang dibenarkan dilakukan oleh ejen ini? Apakah yang tidak dibenarkan dilakukannya? Dan di manakah letaknya tanggungjawab apabila ia melakukan sesuatu yang tidak sepatutnya dilakukan?

Ini bukan isu teknikal; ia isu tadbir urus. Dan apabila syarikat mereka bentuk ejen, 90% perhatian mereka tertumpu pada yang pertama (teknologi), dengan hampir tiada sesiapa yang mempertimbangkan yang kedua.

Ejen tanpa sempadan yang dibenarkan menjadi lebih berbahaya jika ia semakin berkuasa. Tiada perbezaan asas dalam seni bina sistem antara pembantu yang boleh melakukan segala-galanya dan kerentanan yang boleh menjadi tidak terkawal pada bila-bila masa.

Inilah titik permulaan bagi penciptaan rangka kerja SPEAK.

• 【S】 Kemahiran 技能
• 【P】Personaliti sifat
• 【E】Pengalaman pengalaman
• [A]Pihak Berkuasa diberi kuasa
• 【K】Pengetahuan - Sanxin 知识

Daripada lima dimensi tersebut, S, P, E dan K menerangkan apakah Ejen itu , apa yang diketahuinya dan apa yang boleh dilakukannya . Hanya [Pihak Berkuasa] yang menjawab soalan yang sama sekali berbeza: sejauh mana ia dibenarkan untuk pergi?

"Setiap kebenaran yang anda berikan kepada ejen adalah seperti membuka pintu. Persoalannya bukanlah berapa banyak pintu yang terbuka, tetapi sama ada anda tahu pintu mana yang tidak sepatutnya dibuka."

Pengasingan fizikal kata laluan: logik proksi proses

Mari kita kembali kepada kisah syarikat e-dagang itu. Akhirnya, mereka tidak menyerahkan kata laluan akaun media sosial mereka kepada ejen tersebut.

Apa yang mereka lakukan adalah lebih bijak: Ejen hanya dibenarkan untuk mencetuskan proses penerbitan , bukan untuk melaksanakan tindakan penerbitan itu sendiri. Apabila Ejen memutuskan untuk menyiarkan mesej, ia akan menyerahkan kandungan dan masa kepada aliran senario di Make.com , di mana Make menggunakan nama pengguna dan kata laluan sebenar untuk melengkapkan proses log masuk dan penyiaran di sebalik tabir.

Rantaian kebenaran untuk keseluruhan proses adalah seperti berikut:

Ejen (tahu apa yang hendak dihantar) → Pencetus Buat senario (tahu cara menghantar) → Buat memegang akaun dan kata laluan (mempunyai kebenaran untuk menghantar)

Ejen tidak akan pernah menemui kata laluan tersebut. Ia tidak tahu apa itu kata laluan, dan ia juga tidak perlu tahu.

Intipati reka bentuk ini adalah prinsip yang telah wujud dalam seni bina keselamatan perusahaan selama beberapa dekad: Prinsip Keistimewaan Paling Rendah . Setiap peranan hanya diberikan kebenaran minimum yang diperlukan untuk menyelesaikan tugasnya, tanpa lebih daripada itu.

Sistem perbankan, sistem maklumat hospital dan pangkalan data kerajaan semuanya direka bentuk seperti ini. Tetapi dalam dunia ejen AI, prinsip ini hampir dilupakan kerana semua orang tergesa-gesa untuk menjadikan ejen "lebih berkuasa".

Cadangan teras AI adalah ia bukan bertujuan untuk menggantikan manusia, tetapi untuk bekerjasama. Walau bagaimanapun, kerjasama mempunyai prasyarat: setiap peserta mesti memahami dengan jelas sempadan tanggungjawab mereka. Memberi ejen kuasa tanpa had bukanlah kepercayaan, tetapi pengabaian tugas.

Kekunci berlapis dua: Apabila kemahiran itu sendiri juga memerlukan kebenaran

Pengasingan proses menyelesaikan masalah keselamatan di "lapisan operasi", tetapi satu lagi masalah masih wujud: bagaimana untuk membenarkan kemahiran itu sendiri?

Dalam platform Pusat Latihan Ejen Smart4A ( speak.smart4a.tw ), setiap kemahiran disulitkan. Hos menggunakan penyulitan AES untuk menyimpan kandungan kemahiran; pengguna mesti mempunyai kunci penyahsulitan yang sepadan pada mesin tempatan mereka untuk membuka kunci dan menggunakannya.

Ini mewujudkan struktur keselamatan yang elegan: kemahiran tidak "dimuat turun," tetapi "dibuka kunci." Platform ini tahu anda layak untuk menggunakannya, dan kunci natif anda mengesahkan identiti anda; kedua-duanya sangat diperlukan.

Bagi pemilik perniagaan, manfaat reka bentuk ini bukanlah teknikal, tetapi psikologi: anda tidak perlu memahami apa itu AES; anda hanya perlu melindungi kunci anda. Platform ini mengendalikan logik keselamatan yang kompleks; anda hanya perlu mengurus kunci terakhir.

Ini mengingatkan saya tentang falsafah reka bentuk peti besi: peti besi terbaik tidak memerlukan pengguna memahami mekanisme kunci mereka, tetapi sebaliknya membenarkan pengguna hanya mengingati satu kombinasi, dengan semua yang lain dilindungi oleh struktur mekanikal. Lapisan kebenaran SPEAK melakukan perkara yang sama.

Batasan aliran tunai: bukan penolakan, tetapi menambah satu lagi halangan.

Jadi, adakah terdapat sebarang senario di mana ejen boleh mencetuskan proses tetapi tidak dapat menyelesaikannya secara bebas?

Jawapannya ya. Aliran tunai adalah contoh yang paling tipikal.

Untuk penyelarasan, permintaan pengiriman wang dan juga beberapa proses pengiriman wang, ejen boleh memulakan proses, menyusun data dan memasukkan nombor. Walau bagaimanapun, pada titik penting dalam proses tersebut, pengesahan diperlukan sebelum ia boleh diteruskan. Inilah logik reka bentuk Human-in-the-Loop (HITL).

Prinsip Reka Bentuk HITL

Ejen mencetuskan proses tersebut, tetapi proses tersebut dihentikan sementara sebelum pelaksanaan, menunggu semakan dan kelulusan manusia. Dana tidak akan bergerak tanpa pengesahan manusia. Peranan ejen adalah untuk menyediakan dan mengingatkan; kuasa membuat keputusan kekal di tangan manusia—ini bukanlah batasan teknologi, tetapi reka bentuk tadbir urus yang disengajakan.

HITL tidak mempercayai AI, tetapi sebaliknya mengakui bahawa sesetengah keputusan mempunyai akibat yang tidak dapat dipulihkan. Sebaik sahaja kesilapan dibuat, tiada jalan untuk berpatah balik. Penyalahgunaan dana, pembayaran yang salah—sebarang kesilapan pada bila-bila masa boleh mengakibatkan kerugian yang tidak dapat dipulihkan. Dalam senario sedemikian, memastikan orang ramai sentiasa mengikuti perkembangan adalah pilihan yang paling bertanggungjawab dalam reka bentuk pemerkasaan.

Bentuk autoriti yang matang bukanlah "memberi" atau "tidak memberi" secara binari, tetapi sebaliknya rantaian kebenaran hierarki: langkah mana yang boleh diambil oleh ejen, langkah mana yang memerlukan pengesahan manusia, dan langkah mana yang hanya boleh diluluskan oleh peranan tertentu. Inilah rupa sebenar tadbir urus AI peringkat perusahaan.

Perlembagaan yang baik bukan sahaja menyatakan siapa yang mempunyai kuasa apa, tetapi juga kuasa mana yang mesti disemak dan diseimbangkan sebelum ia boleh dilaksanakan. Struktur kebenaran ejen anda haruslah sama.

Urutan sebenar SPEAK

Jika anda merancang ejen AI perusahaan, SPEAK menawarkan cadangan yang berlawanan dengan intuisi: jangan mulakan dengan S, mulakan dengan A.

Pertama, tanya: Sistem manakah yang dibenarkan untuk diakses oleh ejen ini? Kata laluan akaun manakah yang tidak sepatutnya jatuh ke tangan ejen? Operasi manakah yang mesti mengekalkan pengesahan manual? Adakah terdapat garisan merah yang tidak akan anda langgar dalam apa jua keadaan?

Hanya dengan menjawab soalan-soalan ini dengan jelas, ejen anda boleh layak untuk mula mempelajari kemahiran, membina personaliti, mengumpul pengalaman dan menyerap pengetahuan.

Jika tidak, apa yang telah anda latih bukanlah pembantu, tetapi kelemahan yang boleh menjadi tidak terkawal pada bila-bila masa. Cuma ia bercakap dengan sangat sopan, jadi anda belum menemui masalahnya.

Teras AI bukanlah tentang menggantikan pekerjaan manusia dengan AI, tetapi tentang mentakrifkan semula apa yang harus dipertanggungjawabkan oleh manusia dan AI. Reka bentuk pelesenan adalah manifestasi paling konkrit bagi sempadan ini.

Pasukan pemasaran syarikat e-dagang itu akhirnya membina seni bina Ejen yang bersih: Ejen bertanggungjawab untuk keputusan penjanaan dan penjadualan kandungan, pasukan Make bertanggungjawab untuk pelaksanaan dan pengurusan akaun, dan pasukan sumber manusia bertanggungjawab untuk keputusan keluaran akhir dan operasi pembayaran. Pembahagian kerja tiga peringkat ini memastikan setiap pasukan memenuhi tanggungjawab khususnya.

Mereka berkata bahawa kesimpulan terbesar mereka selepas melaksanakan sistem itu bukanlah "berapa banyak masa AI menyelamatkan saya," tetapi sebaliknya: "Buat pertama kalinya, saya merasakan bahawa sistem kami direka bentuk."

Inilah yang ingin dibawa oleh rangka kerja SPEAK kepada setiap perusahaan.