ทำไมโค้ดที่ AI สร้างจึงไม่ปลอดภัยโดยค่าเริ่มต้น

AI จะปรับให้เหมาะกับพรอมป์ที่คุณให้ไป และพรอมป์ของคุณแทบทุกครั้งจะบอกว่า "ทำให้มันทำงานได้" ไม่ใช่ "ทำให้มันปลอดภัย" ดังนั้นมันจึงสร้างเส้นทางที่สั้นที่สุดไปสู่ฟีเจอร์ที่ใช้งานได้ เส้นทางที่สั้นที่สุดมักจะเป็นเส้นทางที่ไม่ปลอดภัย เช่น การต่อสตริงเพื่อสร้างคิวรี (string-concatenated queries), เอนด์พอยต์ (endpoint หนึ่งในประตูที่เข้าถึงได้ของแอปคุณ — URL เดียวที่แอปตอบรับคำขอ) ที่ไม่มีการตรวจสอบสิทธิ์ หรือความลับที่ถูกวางแทรกตรง ๆ เพราะนั่นคือตัวอย่างที่มันเรียนรู้มา

สถานการณ์ยิ่งแย่ลงไปอีก เพราะ AI เรียนรู้จากอินเทอร์เน็ตทั้งหมด — รวมถึงบทเรียนสอนโค้ดและโปรเจกต์ที่ถูกทิ้งร้างนับสิบปีที่ตัวมันเองก็ไม่ปลอดภัยอยู่แล้ว โค้ดที่ไม่ปลอดภัยพบได้ บ่อยกว่า โค้ดที่ปลอดภัยในข้อมูลฝึกฝนของมัน เพราะโค้ดที่ปลอดภัยเขียนยากกว่าและถูกโพสต์น้อยกว่า เมื่อคุณขอ "แบบฟอร์มล็อกอิน" ในทางสถิติแล้วคุณมักจะได้แบบฟอร์มล็อกอินโดยเฉลี่ยของอินเทอร์เน็ต และแบบฟอร์มล็อกอินโดยเฉลี่ยของอินเทอร์เน็ตก็มีปัญหา

AI ยังไม่มีสำนึกถึงภัยคุกคามด้วย มนุษย์ที่กำลังสร้างฟีเจอร์อัปโหลดไฟล์จะรู้สึกกังวลวูบหนึ่ง — ถ้ามีคนอัปโหลดอะไรที่ไม่ดีล่ะ? แต่ AI ไม่รู้สึกอะไรเลย มันเขียนตัวจัดการ (handler) ด้วยความมั่นใจเท่ากันไม่ว่าจะรัดกุมหรือเปิดโล่ง ไม่มีการลังเล ไม่มี "อืม ส่วนนี้ทำให้ผมกังวลนะ" คุณต้องเป็นคนใส่ความกังวลนั้นเข้าไปเอง

บทสรุปไม่ใช่ "โค้ด AI อันตราย อย่าใช้มัน" แต่คือ "มันทำงานได้" กับ "มันปลอดภัย" เป็นคำถามสองข้อที่ต่างกัน และ AI จะตอบแค่ข้อแรกเท่านั้น เว้นแต่คุณจะบังคับให้มันตอบข้อที่สองด้วย