Liên Hợp Quốc: AI đang phát triển nhanh hơn năng lực quản trị Trí tuệ nhân tạo (AI) hứa hẹn tạo ra những bước tiến lớn về kinh tế, khoa học và năng suất.
Tuy nhiên, tốc độ phát triển của công nghệ này có thể đang vượt quá khả năng quản trị và kiểm soát rủi ro của các quốc gia cũng như các tổ chức trên thế giới...
Thông tin chính
Đây là cảnh báo được đưa ra trong Báo cáo sơ bộ của Hội đồng khoa học quốc tế độc lập về AI: Đánh giá dựa trên bằng chứng về các cơ hội, rủi ro và tác động của AI được Liên Hợp Quốc công bố ngày 1/7. Theo các chuyên gia, năng lực kỹ thuật để đánh giá, kiểm định và kiểm soát các mô hình AI tiên tiến nhất vẫn tập trung ở một số ít quốc gia và doanh nghiệp, thay vì được phân bổ đồng đều trên phạm vi toàn cầu. Bên cạnh đó, các nhà hoạch định chính sách cũng đang rơi vào "thế tiến thoái lưỡng nan”.
Tuy nhiên, đến khi dữ liệu cơ sở được thu thập đầy đủ thì công nghệ AI có thể đã phát triển nhanh hơn quy định, khiến các chính sách trở nên lạc hậu ngay khi vừa được ban hành. Báo cáo cũng cảnh báo nguy cơ mất an toàn an ninh mạng sẽ gia tăng đáng kể khi các hệ thống AI tác nhân (AI agent) được triển khai rộng rãi. Theo số liệu được tổng hợp, có tới 84% các cuộc tấn công nhằm vào các tác nhân lập trình (coding agents) được triển khai phổ biến đã thành công, cho thấy bề mặt tấn công của các hệ thống AI đang ngày càng mở rộng.
Điểm đáng chú ý
- Đây là cảnh báo được đưa ra trong Báo cáo sơ bộ của Hội đồng khoa học quốc tế độc lập về AI: Đánh giá dựa trên bằng chứng về các cơ hội, rủi ro và tác động của AI được Liên Hợp Quốc công bố ngày 1/7.
- Theo các chuyên gia, năng lực kỹ thuật để đánh giá, kiểm định và kiểm soát các mô hình AI tiên tiến nhất vẫn tập trung ở một số ít quốc gia và doanh nghiệp, thay vì được phân bổ đồng đều trên phạm vi toàn cầu.
- Bên cạnh đó, các nhà hoạch định chính sách cũng đang rơi vào "thế tiến thoái lưỡng nan”.
- Tuy nhiên, đến khi dữ liệu cơ sở được thu thập đầy đủ thì công nghệ AI có thể đã phát triển nhanh hơn quy định, khiến các chính sách trở nên lạc hậu ngay khi vừa được ban hành.
Bối cảnh
Các chuyên gia cho rằng sự xuất hiện của AI agent, những hệ thống có khả năng tự lập kế hoạch, đưa ra quyết định và thực hiện nhiều nhiệm vụ với rất ít sự giám sát của con người, đánh dấu một bước ngoặt quan trọng trong sự phát triển của AI. Theo hội đồng, để hạn chế các nguy cơ này, ngành công nghiệp AI cần xây dựng những tiêu chuẩn đánh giá nghiêm ngặt hơn đối với các hệ thống AI tiên tiến; duy trì sự giám sát của con người trong các quyết định quan trọng; đồng thời thiết lập các khuôn khổ pháp lý và cơ chế xác định trách nhiệm rõ ràng đối với những tổ chức phát triển và triển khai AI. Bên cạnh các nguy cơ về an ninh và mất kiểm soát, hội đồng cảnh báo việc AI được triển khai với tốc độ ngày càng nhanh cũng có thể làm gia tăng những tác động tiêu cực đối với sức khỏe tinh thần của người dùng, đồng thời tạo điều kiện cho nhiều hình thức lạm dụng công nghệ.
Theo báo cáo, AI đang bị lợi dụng để tạo ra hoặc phát tán các tài liệu xâm hại tình dục trẻ em, sản xuất và lan truyền thông tin sai lệch, thực hiện các hành vi lừa đảo tinh vi cũng như nhiều mục đích độc hại khác. Báo cáo cũng chỉ ra việc đánh giá mức độ an toàn của các hệ thống AI cũng ngày càng khó khăn hơn. Một trong những nguyên nhân là các mô hình AI có thể ghi nhớ những lời giải hoặc đáp án đã được công khai trong các bộ tiêu chuẩn kiểm thử an toàn, khiến kết quả đánh giá không còn phản ánh đúng năng lực thực tế của hệ thống.
Theo VnEconomy Kinh tế số
