AI อาจเป็นหายนะสำหรับมนุษยชาติ นักวิทยาศาสตร์คอมพิวเตอร์ชั้นนำคิดว่าเขามีทางออก
Stuart Russell เขียนหนังสือเกี่ยวกับ AI และเป็นผู้นำการต่อสู้เพื่อเปลี่ยนแปลงวิธีที่เราสร้างมันขึ้นมา Stuart Russell เป็นนักวิจัยด้าน AI ชั้นนำที่เขียนตำราชั้นนำในหัวข้อนี้อย่างแท้จริง ในช่วงหลายปีที่ผ่านมา เขายังได้รับการเตือนว่าสาขาของเขามีศักยภาพที่จะ ผิดพลาด อย่างร้ายแรง ในหนังสือเล่มใหม่Human Compatibleเขาอธิบายว่า เขาตั้งข้อสังเกตว่าระบบ AI ได้รับการประเมินจากความเก่งในการบรรลุวัตถุประสงค์: ชนะวิดีโอเกม เขียนข้อความเหมือนมนุษย์ ไขปริศนา หากพวกเขาบรรลุกลยุทธ์ที่เหมาะกับวัตถุประสงค์นั้น พวกเขาก็จะดำเนินตามนั้น...