Eleonore Pauwels, nghiên cứu viên về các loại hình Công nghệ sinh học mới nổi tại Đại học Liên hợp quốc (UNU) bày tỏ quan ngại rằng tư tưởng độc lập của con người có nguy cơ bị can thiệp khi xã hội loài người bắt đầu phụ thuộc nhiều hơn vào Trí tuệ nhân tạo.
Cô cho rằng Trí tuệ nhân tạo (Artificial Intelligence – AI) sẽ đặt ra một số thách thức về đạo đức cũng như về chính sách trong các lĩnh vực như quyền con người.
Những thách thức của AI
Pauwels cho biết trong cuộc phỏng vấn với Liên Hợp Quốc vào cuối năm 2018:
“Ở cấp độ cá nhân, AI đã bắt đầu thay đổi sự hiểu biết của chúng ta về các cơ quan, việc nhận dạng và quyền riêng tư. Việc nắm bắt và tối ưu hóa toàn bộ thông tin cá nhân của con người – gồm tất cả những gì giúp định hình chúng ta là ai và phác thảo mọi mặt cuộc sống của chúng ta – sẽ ngày càng được sử dụng cho nhiều mục đích khác nhau mà không có sự đồng ý trực tiếp của chúng ta hoặc chúng ta không hề hay biết. Làm thế nào để bảo vệ tư tưởng độc lập của con người trong một thế giới đang ngày càng bị lèo lái bởi các thuật toán, đây không còn là câu hỏi mang tính triết lý, mà hiện đang là một vấn đề nan giải và cấp bách”, Pauwels nhân định trong một tuyên bố.
Về mặt tích cực, các nhà nghiên cứu cảm thấy rằng việc thu thập dữ liệu quy mô lớn kết hợp với AI có thể mở ra những cánh cửa cho các cải tiến mới để thúc đẩy xã hội loài người về phía trước. Pauwels đã lấy ứng dụng “theo dõi nhịp tim” của Apple làm ví dụ. Ứng dụng này sử dụng dữ liệu từ Apple Watch (chiếc đồng hồ thông minh của Apple) để xác định những nhịp tim bất thường. Công nghệ này có khả năng cho phép phát hiện sớm các bệnh về tim như rung tâm nhĩ, từ đó đảm bảo mọi người có được tiêu chuẩn chăm sóc sức khỏe cao hơn.
Tuy nhiên, các công nghệ AI cũng tạo nên tình trạng đáng báo động trong việc chúng xử lý những dữ liệu nhạy cảm của con người. Ngày nay, các hệ thống AI trên toàn thế giới không chỉ thu thập và phân tích dữ liệu về mô hình mua sắm của chúng ta, mà còn cả sở thích hẹn hò, bộ gen, sinh trắc học, hành vi và nhiều biến số “riêng tư” khác. Cuối cùng, các chương trình AI được tiếp xúc với các bộ dữ liệu lớn như vậy của từng cá nhân có thể phát triển một sự hiểu biết sâu sắc về con người. Do đó, các hệ thống này có thể bắt đầu xâm nhập vào cuộc sống của con người với tần suất lớn hơn, với mục tiêu là tác động đến hành vi của chúng ta “theo hướng tốt đẹp”.
Các tập đoàn và chính phủ kiểm soát những hệ thống AI như vậy cũng là một rủi ro khác. Về cơ bản, họ sẽ có khả năng kiểm soát dân số rộng lớn tùy thuộc vào phạm vi bao quát của bộ dữ liệu mà họ sở hữu. Trong khi các doanh nghiệp sử dụng AI để dụ dỗ người dùng mua những thứ có thể họ không thực sự cần, chính phủ có thể sẽ sử dụng AI để xác định các “mối đe dọa tiềm tàng” với xã hội và xử lý chúng ngay cả trước khi chúng có thể xảy ra.
Trước những lợi ích và rủi ro to lớn liên quan đến AI, Pauwels cảm thấy rằng việc tạo ra các khuôn khổ chính sách và đạo đức về vấn đề này rất phức tạp. Để giải quyết vấn đề này, trường đại học UNU đã tạo ra một Nền tảng Quản trị Trí tuệ Nhân tạo và Toàn cầu, tập hợp nhiều chuyên gia về chính sách, nhà nghiên cứu và các nhà lãnh đạo tập trung xem xét các thách thức được tạo ra bởi Trí tuệ Nhân tạo.
Vũ khí hóa AI
Một vấn đề nghiêm trọng AI tạo ra là trong lĩnh vực vũ khí sát thương tự động. Liên Hợp Quốc đã rất nỗ lực chống lại việc triển khai AI trong lĩnh vực vũ khí vì họ tin rằng một động thái như vậy sẽ có thể dẫn đến những kết cục thảm khốc.
Ông Cameron Antonio Guterres, Tổng thư ký Liên Hợp Quốc, cho biết trong một bài viết trên Twitter:
“Những cỗ máy sát thương tự động có quyền lực quyết định lựa chọn mục tiêu và tước đi mạng sống của người khác mà không có sự tham gia của con người, là không thể chấp nhận được về mặt chính trị, đây là việc làm vô đạo đức và nên bị cấm đoán bởi luật pháp quốc tế”.
Nhiều nước Mỹ Latinh đã yêu cầu cấm toàn cầu việc phát triển những cỗ máy như vậy. Thủ tướng Nhật Bản Shinzo Abe tuyên bố rằng đất nước của ông không có ý định phát triển bất kỳ vũ khí sát thương tự động gây chết người nào có thể hoạt động mà không có sự tham dự của con người.
Nhóm nghiên cứu thị trường International Data Corporation (IDC) dự đoán chi tiêu toàn cầu cho máy bay không người lái và robot sẽ tăng vọt lên đến hơn 201,3 tỷ USD vào năm 2022 (khoản này là 95,9 tỷ USD vào năm 2018). Doanh nhân Elon Musk thường gọi AI là rủi ro lớn nhất đối với nền văn minh nhân loại, thậm chí nói rằng công nghệ này cuối cùng có thể gây ra một cuộc chiến tranh thế giới khác.
Theo VisionTimes
Nhật Quang biên dịch
Video: Chuyên gia sức khỏe làm chứng về mối hiểm họa của mạng 5G