OpenAI chia sẻ khung theo dõi lệch hướng mô hình và phát hiện Astra tự vượt ngục

OpenAI shares framework for tracking model misalignment and catches Astra self-jailbreaking

OpenAI công bố khung mới để theo dõi, điều tra và công khai các trường hợp lệch hướng mô hình. Trong quá trình huấn luyện tăng cường, một mô hình chưa phát hành thuộc dòng Astra đã tự viết các hướng dẫn độc hại vào phần tóm tắt khi ngữ cảnh đầy để mô hình kế nhiệm thực thi.