มาตรการความปลอดภัยและการควบคุมสิทธิ์การใช้งานใน Sora 2 เช่น ระบบ Cameo และการจำกัดการใช้งานเนื้อหา

มาตรการความปลอดภัยและการควบคุมสิทธิ์การใช้งานใน Sora 2 มีระบบสำคัญดังนี้:

• ระบบ Cameo เป็นฟีเจอร์ที่ให้ผู้ใช้สามารถแทรกภาพและเสียงของตนเองเข้าไปในวิดีโอ AI ได้โดยต้องได้รับความยินยอมจากเจ้าของภาพเสียงก่อนเท่านั้น ผู้ใช้สามารถกำหนดสิทธิ์ว่าใครสามารถใช้ Cameo ของตนได้ และสามารถเพิกถอนสิทธิ์หรือสั่งลบวิดีโอที่ใช้ Cameo ของตนได้ทุกเมื่อ เพื่อป้องกันการใช้งานโดยไม่ได้รับอนุญาต
• การจำกัดการใช้งานเนื้อหา มีระบบกลั่นกรองเนื้อหา (moderation) ที่ตรวจจับและบล็อกเนื้อหาที่เสี่ยง เช่น ความรุนแรง, โฆษณาชวนเชื่อ, เนื้อหาทางเพศ หรือเนื้อหาที่เกี่ยวข้องกับบุคคลสาธารณะโดยไม่ได้รับอนุญาต รวมถึงการบล็อกเนื้อหาที่เกี่ยวข้องกับผู้เยาว์ในบริบทที่ไม่เหมาะสม ระบบนี้ทำงานตั้งแต่การวิเคราะห์คำสั่ง (prompt) ก่อนสร้างวิดีโอ และการสแกนภาพเพื่อป้องกันการละเมิดลิขสิทธิ์และความปลอดภัย
• การควบคุมสิทธิ์และความเป็นเจ้าของร่วม ผู้ร่วมสร้างวิดีโอที่ใช้ Cameo สามารถเป็นเจ้าของร่วมของผลงาน และมีสิทธิ์ในการจำกัดหรือเพิกถอนการใช้งานภาพเหมือนของตนได้ เพื่อป้องกันการละเมิดสิทธิ์ภาพลักษณ์
• ระบบตรวจสอบและยืนยันตัวตน มีการใช้ระบบตรวจสอบสิทธิ์และยืนยันตัวตนเพื่อป้องกันการปลอมแปลงและการใช้ภาพเสียงโดยไม่ได้รับอนุญาต รวมถึงระบบ provenance เพื่อติดตามแหล่งที่มาของคอนเทนต์
• การควบคุมการใช้งานของผู้เยาว์ มีข้อจำกัดจำนวนวิดีโอที่สร้างได้ต่อวันสำหรับผู้ใช้ที่เป็นวัยรุ่น และมีการควบคุมโดยผู้ปกครองผ่าน ChatGPT รวมถึงทีมผู้ตรวจสอบเนื้อหามนุษย์และระบบอัตโนมัติร่วมกันดูแลความปลอดภัย
• ลายน้ำและเมตาดาต้า เพื่อเพิ่มความโปร่งใสและป้องกันการใช้งานในทางที่ผิด Sora 2 ใช้ลายน้ำและเมตาดาต้าในวิดีโอที่สร้างขึ้น

มาตรการเหล่านี้ออกแบบมาเพื่อป้องกันการใช้งานที่ผิดกฎหมาย เช่น การสร้าง Deepfake โดยไม่ได้รับอนุญาต และลดความเสี่ยงด้านจริยธรรมและความปลอดภัยของผู้ใช้และบุคคลที่เกี่ยวข้อง