Anthropic hứng chịu làn sóng phản đối về lớp bảo mật nghiêm ngặt hơn trên mô hình Claude Mythos 5 mới

Anthropic hứng chịu làn sóng phản đối về lớp bảo mật nghiêm ngặt hơn trên mô hình Claude Mythos 5 mới

Anthropic đang đối mặt với làn sóng phản đối mạnh mẽ từ cộng đồng người dùng sau khi công ty triển khai các biện pháp kiểm soát an toàn (safeguards) nghiêm ngặt hơn trên phiên bản mới nhất của mô hình Claude Mythos 5. Quyết định này đã làm dấy lên cuộc tranh luận trong ngành trí tuệ nhân tạo về việc cân bằng giữa an toàn và tính linh hoạt cho người dùng.

Theo các nhà phân tích, những thay đổi trên Mythos 5 bao gồm việc siết chặt kiểm duyệt nội dung và giới hạn khả năng xử lý một số loại truy vấn nhất định. Điều này đã gây ra gián đoạn đáng kể cho nhiều quy trình làm việc, đặc biệt tại các doanh nghiệp sử dụng mô hình AI cho mục đích nghiên cứu và sản xuất nội dung quy mô lớn.

Những lĩnh vực chịu ảnh hưởng

Các chuyên gia trong ngành chỉ ra rằng những hạn chế mới tác động mạnh nhất đến ba nhóm chính:

• Nghiên cứu y khoa và dược phẩm: Các nhà khoa học cần tra cứu dữ liệu về phương pháp điều trị, liều lượng thuốc và các thử nghiệm lâm sàng — những nội dung thường bị chặn bởi các bộ lọc an toàn mới.
• Phát triển phần mềm: Lập trình viên gặp khó khăn khi mô hình từ chối hỗ trợ các tác vụ liên quan đến kiểm thử bảo mật, mô phỏng tấn công hoặc viết mã khai thác lỗ hổng cho mục đích phòng thủ.
• Sáng tạo nội dung: Nhà văn và nhà thiết kế cho biết các tính năng hỗ trợ sáng tạo bị giới hạn đáng kể so với các phiên bản trước.

Phản ứng từ cộng đồng

Nhiều người dùng bày tỏ sự không hài lòng trên các diễn đàn và mạng xã hội, cho rằng các biện pháp kiểm soát của Anthropic quá mức và cản trở năng suất làm việc. Một số nhà phát triển còn tuyên bố sẽ chuyển sang sử dụng các mô hình thay thế từ đối thủ cạnh tranh nếu tình trạng không được cải thiện.

Tuy nhiên, Anthropic nhấn mạnh rằng các biện pháp an toàn này được thiết kế nhằm ngăn chặn việc sử dụng sai mục đích và bảo vệ người dùng khỏi các rủi ro tiềm ẩn. Công ty cho biết Mythos 5 vẫn đáp ứng hầu hết nhu cầu của đa số người dùng phổ thông.

Cuộc tranh luận về cân bằng

Sự việc này phản ánh một thách thức lớn hơn trong ngành AI: bài toán cân bằng giữa an toàn và tính linh hoạt. Trong khi các công ty AI như Anthropic, OpenAI và Google đều đầu tư mạnh vào các lớp kiểm soát, thì cộng đồng người dùng doanh nghiệp luôn yêu cầu quyền truy cập rộng hơn để phục vụ công việc chuyên môn.

Giới phân tích cho rằng đây là tín hiệu cho thấy thị trường AI đang bước vào giai đoạn chuyển mình, nơi mà chiến lược sản phẩm phải dung hòa giữa kỳ vọng kinh doanh và trách nhiệm xã hội. Các quyết định về safeguards trong thời gian tới sẽ ảnh hưởng trực tiếp đến vị thế cạnh tranh của Anthropic so với các đối thủ.

Cuộc tranh luận về quy mô và mức độ kiểm soát an toàn cho mô hình AI dự kiến sẽ tiếp tục trong thời gian tới, khi ngành công nghiệp này phát triển và các quy định pháp lý dần được hình thành.