Trí tuệ nhân tạo (AI) và các thuật toán ngày càng phức tạp, và hiện đang ảnh hưởng đến cuộc sống và nền văn minh của chúng ta hơn bao giờ hết. Các lĩnh vực ứng dụng AI rất đa dạng và có khả năng mở rộng, đặc biệt với những cải tiến trong phần cứng máy tính hiện nay, một số thuật toán AI đã vượt qua khả năng của chuyên gia. Khi công nghệ AI được cải thiện, lĩnh vực ứng dụng của AI sẽ phát triển hơn nữa. Cụ thể, các thuật toán AI sẽ bắt đầu tối ưu hóa đến một mức độ lớn hơn bao giờ hết để đạt đến mức độ siêu phàm của trí thông minh. Tiến bộ công nghệ AI sẽ đưa ra những thách thức đạo đức chưa từng có trong lịch sử. Nhiều chuyên gia tin rằng bên cạnh cơ hội toàn cầu, công nghệ AI đang đặt ra rủi ro, và có thể sẽ lớn hơn rủi ro công nghệ hạt nhân, mà trong mọi trường hợp đã bị đánh giá thấp trong lịch sử. Hơn nữa, phân tích rủi ro khoa học cho thấy thiệt hại gây ra từ công nghệ AI có ảnh hưởng diện rộng nên việc thực hiện và phát triển công nghệ AI cần rất nghiêm túc ngay cả khi xác suất thiệt hại hiện tại là rất thấp.

Ưu điểm và rủi ro của AI hiện tại

Cuộc sống cá nhân và sự phát triển xã hội bị chi phối ngày càng nhiều bởi các thuật toán và trí tuệ nhân tạo (AI). Trong đó bao gồm những công nghệ phổ biến hiện nay như điện thoại thông minh, hệ thống điều khiển giao thông và các công cụ tìm kiếm trên internet. Thị trường tài chính cũng phụ thuộc vào các thuật toán cao cấp và phức tạp mà bất kỳ chuyên gia nào cũng khó có thể hiểu đầy đủ . Phần lớn các thuật toán hoạt động không có sự cố, nhưng luôn có khả năng xảy ra những điều không mong muốn như sự kiện “thiên nga đen” (“black swan”) của người Hồi giáo đã đe dọa và hỗn loạn cả hệ thống xã hội.

Về nguyên tắc, các thuật toán và công nghệ AI mang lại nhiều ưu thế. Công nghệ AI đã ảnh hưởng tốt đến cuộc sống của con người và dự kiến sẽ tiếp tục phát triển ở tỷ lệ cao trong tương lai, với điều kiện là các biện pháp phòng ngừa cần thiết được thực hiện. Dưới đây là hai trường hợp điển hình.

Xe không người lái không còn là khoa học viễn tưởng và xe tự lái sẽ có sẵn trên thị trường trong tương lai gần. Ngoài tiết kiệm thời gian để tập trung làm việc hoặc thư giãn, một lợi thế thứ hai cho những chiếc xe không người lái là nâng cao an toàn khi lái xe. Rất nhiều mạng sống có thể được cứu mỗi năm, bởi những chiếc xe không người lái đã an toàn hơn đáng kể so với các phương tiện do con người điều khiển.

Thực tế là công nghệ AI hiện tại có thể hỗ trợ y tế và chẩn đoán chính xác hơn so với bác sỹ tại, nhờ các suy luận thống kê vượt trội so với đánh giá lâm sàng của các chuyên gia con người trong hầu hết các trường hợp. Công nghệ AI như Watson là lý tưởng để thực hiện các suy luận thống kê với việc sử dụng máy tính đối với một số loại chẩn đoán có thể cứu sống.

Tuy nhiên, không phải lúc nào cũng là công nghệ cũng phi lý. Hầu hết các công nghệ có thể được sử dụng để mang lại lợi ích của loài người, nhưng cũng có thể nguy hiểm khi sử dụng bởi kẻ xấu, hoặc khi không được sử dụng cẩn thận an toàn và trong những tình huống không lường trước được.

Tự động hóa và thất nghiệp

Trong những thành công gần đây trong lĩnh vực máy học (Machine Learning) và robot, dường như chỉ còn là vấn đề thời gian ngay cả những công việc phức tạp đòi hỏi trí thông minh cao cũng có thể được tiếp quản toàn diện bởi máy móc.

Những người sẽ được hưởng lợi nhiều nhất từ công nghệ tiến bộ là người dân và quốc gia hiểu tận dụng các cơ hội công nghệ mới và các ảnh hưởng của dữ liệu lớn trên mạng. Trong khi ngành công nghiệp giải trí có cơ hội quan trọng để phát triển giáo dục tốt hơn thông qua cá nhân hóa dạy học bằng AI và ứng dụng hóa tài liệu học tập, nó đồng thời cũng làm tăng nguy cơ tỷ lệ những người trẻ tuổi sẽ gặp khó khăn trong việc hoàn thành giáo dục của họ do nghiện bệnh lý đối với các trò chơi video và/hoặc internet.

Tiến bộ công nghệ làm tăng năng suất xã hội, lần lượt nâng mức sống trung bình. Nếu công việc được thực hiện bởi máy móc nhiều hơn, thời gian rảnh rỗi của con người dành cho giải trí và tự phát triển cho con người tang lên (một ưu điểm của sử dụng AI). Tuy nhiên, nhược điểm của công nghệ AI là tăng tự động hóa và gia tăng năng suất sẽ dẫn tới sự bất bình đẳng xã hội ngày càng tăng cũng như sự gia tăng về mức sống trung bình không có sự trùng hợp với sự gia tăng chất lượng trung bình của cuộc sống. Các chuyên gia như kinh tế học MIT giáo sư Erik Brynjolfsson thậm chí lo lắng rằng công nghệ tiến bộ đe dọa làm cho cuộc sống của đa số của những người tồi tệ hơn.

Tình báo và siêu trí tuệ nói chung

Trí thông minh chung là khả năng đạt được mục tiêu chung trong các môi trường khác nhau. Trí thông minh này có thể gây ra rủi ro (thảm khốc) nếu các mục tiêu của các máy móc không phù hợp với con người. Nếu một trí thông minh chung đạt đến một mức độ siêu phàm, nó trở thành một siêu trí tuệ; đó là, một thuật toán vượt trội so với trí thông minh của con người trong mọi cách, kể cả sáng tạo khoa học, phổ biến, cảm giác, và năng lực xã hội. Lưu ý rằng định nghĩa này để ngỏ câu hỏi về việc có hay không một siêu trí tuệ sẽ có ý thức.

Trong trường hợp tốt nhất, một siêu trí tuệ có thể giải quyết vô số vấn đề cho nhân loại, giúp chúng ta vượt qua đạt được những thành tựu khoa học, đạo đức, sinh thái và kinh tế trước những thách thức của tương lai. Tuy nhiên, nếu các mục tiêu của một siêu trí tuệ không tương thích với sở thích của con người và các sinh vật khác, AI sẽ mang tới một mối đe dọa tồn tại chưa từng có, có khả năng gây ra hậu quả nhiều hơn so với bất kỳ sự kiện nào trước đó trong vũ trụ.

Ý thức nhân tạo

Hai câu hỏi liên quan phải được phân biệt thực sự: Thứ nhất, liệu máy móc có thể phát triển ý thức và khả năng của đau đớn; và thứ hai, nếu câu trả lời cho câu hỏi đầu tiên là có, loại máy nào (sẽ) có ý thức.

Nhìn lướt qua tình trạng nghiên cứu cho thấy rằng câu hỏi đầu tiên dễ trả lời hơn thứ hai. Hiện tại có sự đồng thuận đáng kể, nhưng không phải là toàn bộ trong số các chuyên gia rằng máy móc về nguyên tắc có thể có ý thức, và ít nhất là có thể trong thần kinh máy tính.

Những cân nhắc này có hậu quả đạo đức sâu rộng. Nếu máy móc có thể có ý thức, thì nó về mặt đạo đức sẽ vô lương tâm khi khai thác chúng như một lực lượng lao động và sử dụng chúng cho các công việc rủi ro như gỡ rối mìn hoặc xử lý các chất nguy hiểm. Triển vọng này đặc biệt đáng lo ngại bởi vì có thể hình dung rằng AI sẽ được tạo ra như vậy những con số khổng lồ trong trường hợp xấu nhất, có thể là một số nạn nhân thiên văn, đông hơn bất kỳ thảm họa được biết đến trong quá khứ.

Hiện nay, chúng ta đang chứng kiến sự lan rộng của công nghệ AI với các tiềm năng đáng ngạc nhiên. Công nghệ AI hiện đang đứng sau những chiếc xe không người lái, y tế hỗ trợ Watson chẩn đoán, và máy bay không người lái của quân đội Hoa Kỳ sẽ dần dần trở thành những sản phẩm thực tiễn trong tương lai gần. Điều cốt yếu là các khung pháp lý được xây dựng cẩn thận diễn ra trước khi điều này xảy ra, để nhận ra tiềm năng của những công nghệ này theo cách giảm thiểu rủi ro một cách an toàn của một sự phát triển tổng thể tiêu cực.

Càng tiến bộ hơn trong lĩnh vực công nghệ AI, càng nhấn mạnh một cách tiếp cận hợp lý, tầm nhìn xa những thách thức liên quan trở thành. Bởi vì chính trị và tiến bộ pháp lý có xu hướng tụt hậu so với sự phát triển công nghệ, có một trách nhiệm đặc biệt lớn dựa trên các nhà nghiên cứu và nhà phát triển cá nhân trực tiếp tham gia vào bất kỳ tiến trình đang được thực hiện. Tuy nhiên, cần những khuyến khích kinh tế mạnh mẽ cho sự phát triển của các công nghệ mới diễn ra nhanh nhất có thể mà không làm lãng phí thời gian phân tích rủi ro.

Vân Thùy

Lược dịch theo Effective Altruism Foundation

Báo cáo “Trí tuệ  nhân tạo: Những cơ hội và thách thức” là công trình nghiên cứu của nhiều tác giả uy tín: Adriano Mannino -Đồng chủ tịch EFA, David Althaus – Trợ lý Giám đốc tại FRI và một số tác giả khác.

Sáng kiến Xã Hội Trí Tuệ Nhân Tạo – AIWS do Michael Dukakis – cựu ứng cử viên Tổng thống, cựu Thống đốc bang Massachusetts, Chủ tịch Viện Michael Dukakis về Lãnh đạo và Sáng tạo (MDI) và Nguyễn Anh Tuấn – Giám đốc MDI khởi xướng tháng 11/2017, tập trung vào mục đích thúc đẩy sự phát triển hòa bình của AI. Cùng sự tham gia của nhiều học giả và chuyên gia hàng đầu thế giới, AIWS hiện đang phát triển Mô hình AIWS 7 lớp nhằm xây dựng nên các nền tảng đạo đức, trách nhiệm, các nguyên lý, các tiêu chuẩn và các giải pháp cho sự phát triển AI trong tầm kiểm soát và để sử dụng AI một cách an toàn, nhân văn và mang lại lợi ích cho xã hội.

Đọc đầy đủ Báo cáo bản tiếng Anh .

Đọc đầy đủ Báo cáo bản tiếng Việt .