Cảnh báo về khả năng mất kiểm soát với AI
Ngày 7/2, một nhà khoa học máy tính hàng đầu đã lên tiếng cảnh báo về khả năng con người "mất kiểm soát" đối với các hệ thống trí tuệ nhân tạo (AI) trong tương lai khi các sản phẩm nhân tạo này phát triển “ý chí sinh tồn”.
Phát biểu tại Hội nghị Thượng đỉnh Hành động về AI đang diễn ra tại Paris (Pháp), nhà khoa học máy tính Yoshua Bengio kêu gọi quy định quốc tế chặt chẽ hơn và nghiên cứu sâu rộng hơn về an toàn AI, mà hiện chỉ chiếm một phần nhỏ trong số các khoản đầu tư lớn đang được thực hiện trong lĩnh vực này.
Theo chủ nhân giải thưởng Turing danh giá về khoa học máy tính năm 2018, sự xuất hiện của mô hình AI hiệu suất cao, chi phí thấp DeepSeek vào tháng trước đã đẩy nhanh cuộc đua không tốt cho sự an toàn. Ông Yoshua Bengio cảnh báo nếu mất kiểm soát với AI, “loài người có thể biến mất trong 10 năm”.
Ông cũng kêu gọi sự dẫn dắt của các chính phủ trong vấn đề quản lý AI. Lời kêu gọi được đưa ra trong bối cảnh quốc gia AI hàng đầu thế giới hiện nay là Mỹ đã có nhiều động thái “cởi trói” cho sự phát triển của công nghệ này dưới thời tân Tổng thống Donald Trump.
Ở thời điểm hiện tại, Báo cáo an toàn AI quốc tế mà ông Yoshua Bengio trình bày tại hội nghị cũng chỉ ra những rủi ro được biết đến nhiều như việc sử dụng AI để tạo nội dung giả mạo hoặc gây hiểu lầm trên nền tảng trực tuyến, đồng thời liên tục xuất hiện những rủi ro bổ sung, như các cuộc tấn công sinh học hoặc tấn công mạng.
Với sự đóng góp của khoảng 100 chuyên gia từ 30 quốc gia, Liên hợp quốc, Liên minh châu Âu và Tổ chức Hợp tác và Phát triển Kinh tế (OECD), đây là báo cáo đầu tiên về vấn đề an toàn AI quốc tế, được tiến hành từ sau hội nghị thượng đỉnh về an toàn AI tại Anh vào tháng 11/2023.
