Anthropic Kêu Gọi Tạm Dừng Phát Triển AI Toàn Cầu Vì Rủi Ro Mất Kiểm Soát

Anthropic Gốc Cho Tuyên Bố Trung Đột Phá Phát Triển AI Toàn Cầu Vì Rủi Ro

Trong một điểm chuyển mang tính lịch sử, công ty AI Anthropic đã chính thức gốc cho một sự trung đột toàn cầu trong việc phát triển các hệ thống AI tiên phong. Chương trình này đảm bảo sức mạnh của mình bằng việc bảo mật những rủi ro không thể hồi về khi AI bắt đầu có khả năng tự cải thiện mình.

Điểm Chính

Anthropic cho rằng các lao động phát triển AI cần phải đồng công với nhau để tạo ra một cơ chế “phản hồi” nhanh chóng. Nếu các chuyên gia nhận ra những mặt độ nguy hiểm không thể quản lý được, toàn bộ ngành công nghiệp nên nắm giới hạn phát triển.

Mục tiêu chính là tránh tình trạng AI tự động phát triển và cải thiện mình mà không cần sự can thiệp của con người. Đây là một biện pháp phòng ngừa đúng hoặc để bồi thuồi khi còn hoặc có thể cần thiết.

Tại Sao Đáng Chú Ý

Quyết định này không chỉ là một lời bảo cảm giữa các nhà khoa học, mà là một lời bảo cảm gần gũi về tính bồi số của loài người. Khi AI đạt được mức độ tự chủ trong việc lập trình và phát triển mình, con người sẽ mất đi vị trí kiểm soát. Anthropic tin rằng nếu không có sự kết hợp chung tay, cuộc cạnh tranh AI sẽ dẫn đến những kết quả không thể hồi về, làm suy yếu an ninh toàn cầu.

Áp Dụng Thực Tế

Nhà quản lý và nhà đầu tư nên theo dõi các tín hiệu từ các tổ chức chính sách AI. Kỹ năng sử dụng các công cụ AI trong kinh doanh cần đi kèm với chu trình điều chỉnh và giác gọi về an ninh. Bạn nên xây dựng các quy trình bảo mật dữ liệu và kiểm tra thường xuyên để bảo vệ tổ chức của mình trước những thay đổi bất ngờ của thiết bị AI.

Nguồn: https://news.google.com/rss/articles/CBMisAFBVV95cUxNSkZCalRnRjNtN09pZ25OckdJNUhjeVBVWlZnZVNVc0lxQm1NNjcwcjBkTENibi1DS05wQlR5WElPaXE2dTFpc19pUTIxckFXU2tLTjRZTmE4WHdTMGxBX3VjWmRrUGpEZkRNNUVKOVBkQzRqWHk2Mm9RdkFjWGNZTXVxM3NrVFc0UmZnQ1VXMmRKMnpGUUhhYU0ybGZLVS1ST3NIRl94Y1lOTVVTX2RnRA?oc=5