Trí thông minh nhân tạo và sự ngu xuẩn tự nhiên

(Mưa trích dịch từ “21 lessons for the 21th century” của Yuval Noah Harari)

Một cảnh trong series Westworld

Có một mẩu tin tốt lành là ít nhất trong một vài thập kỷ tới, chúng ta sẽ không phải đối mặt với cơn ác mộng khoa-học-viễn-tưởng rằng AI sẽ đạt tới ý thức (consciousness) và quyết định nô dịch hoặc tiêu diệt loài người. Chúng ta sẽ ngày càng dựa vào các thuật toán để đưa ra quyết định, nhưng sẽ rất ít khả năng các thuật toán sẽ thao túng chúng ta một cách có ý thức. Chúng sẽ không có chút ý thức nào.

Khoa học viễn tưởng thường nhầm lẫn trí thông minh với ý thức, và cho rằng để đuổi kịp hoặc vượt qua trí tuệ con người, máy tính sẽ phải phát triển ý thức. Cốt truyện cơ bản của hầu hết phim và sách về AI đều xoay quanh một thời điểm kỳ ảo khi một chiếc máy tính hoặc một robot có được ý thức. Khi điều đó xảy ra, thì hoặc là nhân vật chính loài người rơi vào tình yêu với con robot, hoặc con robot cố giết tất cả con người, hoặc cả hai thứ xảy ra cùng một lúc.

Trong thực tế, không có lý do để cho rằng trí thông minh nhân tạo sẽ đạt tới ý thức, vì trí thông minh và ý thức là hai thứ hoàn toàn khác nhau. Trí thông minh là khả năng giải quyết vấn đề. Ý thức là khả năng cảm thụ những thứ như là đau đớn, hoan lạc, yêu thương và giận dữ. Chúng ta thường lẫn lộn hai khái niệm này bởi vì ở loài người và các động vật có vú khác trí thông minh thường đi cùng với ý thức. Động vật có vú giải quyết các vấn đề bằng cảm thụ. Trong khi đó, máy tính giải quyết vấn đề theo cách hoàn toàn khác.

Có một số con đường khác nhau dẫn đến trí thông minh cao cấp, và chỉ một vài trong số những con đường này có liên quan đến việc đạt tới ý thức. Cũng giống như máy bay bay nhanh hơn chim mà không hề phát triển lông vũ, máy tính cũng có thể xử lý vấn đề tốt hơn động vật có vú mà không cần phát triển khả năng cảm thụ. Đúng là AI sẽ phải phân tích chính xác cảm giác của con người để chữa bệnh cho họ, nhận ra quân khủng bố, làm mai mối hoặc di chuyển giữa đường phố đầy khách bộ hành. Nhưng nó có thể làm như thế mà không cần có chút cảm giác nào của riêng nó. Một thuật toán không cần phải cảm thấy vui vẻ, tức giận hay sợ hãi để nhận ra các mẫu sinh hóa (biochemistry patterns) khác nhau của những con vượn vui vẻ, tức giận hay sợ hãi.

Tất nhiên, không phải hoàn toàn không có khả năng là AI sẽ phát triển cảm giác của riêng nó. Chúng ta chưa biết đủ nhiều về ý thức để có thể chắc chắn về việc này. Nhìn chung, có ba khả năng mà chúng ta cần cân nhắc:

  1. Ý thức có liên hệ với các thực thể sinh hóa hữu cơ theo một cách nhất định nào đó khiến cho việc tạo ra ý thức trên các hệ thống vô cơ là bất khả.
  2. Ý thức không có liên hệ với các thực thể sinh hóa hữu cơ, nhưng nó liên hệ với trí thông minh theo một cách nhất định khiến cho máy tính có khả năng phát triển ý thức, và máy tính sẽ PHẢI phát triển ý thức nếu chúng muốn vượt qua một ngưỡng thông minh nhất định.
  3. Không có chút liên hệ nào giữa ý thức và hệ thống sinh hóa hữu cơ lẫn trí thông minh cao cấp. Vì thế máy tính có thể phát triển ý thức – nhưng không nhất thiết như vậy. Chúng có thể trở nên siêu thông minh trong khi không có chút ý thức nào.

 Ở mức độ hiểu biết hiện tại, chúng ta không thể loại trừ bất cứ khả năng nào trong các khả năng trên. Nhưng chính xác vì chúng ta biết quá ít về ý thức, có rất ít khả năng chúng ta có thể sớm tạo ra các máy tính có ý thức. Nên mặc cho sức mạnh ghê gớm của trí thông minh nhân tạo, trong tương lai có thể dự đoán được (foreseeable future), việc sử dụng nó vẫn ít nhiều sẽ cần đến ý thức của con người.

Hiểm họa nằm ở chỗ nếu chúng ta dồn quá nhiều nguồn lực vào phát triển AI và quá ít vào phát triển ý thức của con người, sự tinh vi của trí tuệ nhân tạo sẽ chỉ phục vụ cho việc làm mạnh thêm lên sự ngu xuẩn tự nhiên (natural stupidity) của con người. Chúng ta sẽ ít có khả năng bị tấn công bởi một cuộc nổi loạn của robot trong những thập kỷ tới, nhưng chúng ta sẽ phải đối mặt với những quân đoàn bots biết rõ cách thao túng cảm giác của chúng ta hơn cả mẹ chúng ta, và sử dụng khả năng huyền bí này để bán cho chúng ta cái gì đó – dù là một chiếc xe hơi, một chính khách, hay nguyên cả một hệ tư tưởng. Những con bots này có thể xác định nỗi sợ hãi, nỗi hận thù và những khao khát sâu kín nhất của chúng ta, và sử dụng những đòn bẩy nội tại (inner leverages) này để chống lại chúng ta. Chúng ta vốn đã được nếm thử điều này trong các cuộc bầu cử và trưng cầu dân ý gần đây, khi mà hackers đã tìm được cách thao túng cử tri bằng cách phân tích dữ liệu về họ và lợi dụng các thành kiến sẵn có của họ. Trong khi những câu chuyện khoa học viễn tưởng giật gân thường dựng lên các kịch bản tận thế đầy kịch tính, thì trong thực tế chúng ta rất có thể đang đối diện với một tận thế hết sức tầm thường bởi những cú click chuột.

Để tránh khỏi viễn cảnh đó, với mỗi đô-la và mỗi phút chúng ta đầu tư vào việc nâng cấp trí thông minh nhân tạo, sẽ là khôn ngoan nếu chúng ta bỏ ra một đô-la và một phút để phát triển ý thức con người. Thật đáng tiếc, hiện tại chúng ta đang không làm gì nhiều để nghiên cứu và phát triển ý thức. Chúng ta chủ yếu chỉ nghiên cứu và phát triển khả năng con người dựa theo nhu cầu ngay trước mắt của hệ thống kinh tế và chính trị, thay vì dựa vào nhu cầu dài hạn của chúng ta với tư cách là các thực thể sống có ý thức (conscious beings). Sếp tôi muốn tôi trả lời emails nhanh nhất có thể, nhưng ông ta chẳng mấy quan tâm đến khả năng nếm và trân trọng thức ăn của tôi. Vì vậy, tôi kiểm tra emails ngay cả trong các bữa ăn, trong khi mất dần khả năng lưu ý đến cảm giác của chính mình. Hệ thống kinh tế gây sức ép khiến tôi phải mở rộng và làm phong phú danh sách đầu tư của mình, nhưng không cho tôi chút khích lệ nào để mở rộng và làm phong phú khả năng thấu cảm của tôi. Vì thế tôi phấn đấu để hiểu những bí ẩn của việc mua bán cổ phiếu, trong khi bỏ ra ít nỗ lực hơn nhiều trong việc tìm hiểu những nguyên nhân sâu xa của khổ đau.

Ở khía cạnh này, con người giống với các loài động vật đã thuần hóa khác. Chúng ta tạo ra những giống bò ngoan ngoãn có khả năng cho lượng sữa khổng lồ, nhưng ngoài việc đó ra thì chúng thua kém xa tổ tiên hoang dã của chúng. Chúng kém nhanh nhẹn hơn, kém tò mò hơn và ít khả năng thích nghi hơn. Ở thời điểm hiện tại chúng ta đang tạo ra những con người thuần hóa (tame humans) có khả năng tạo ra một lượng lớn dữ liệu và vận hành như những con chíp hiệu quả trong một cỗ máy xử lý dữ liệu khổng lồ, nhưng những con bò-dữ liệu này chẳng màng gì tới việc tối ưu hóa tiềm năng của con người. Đúng là chúng ta chẳng biết tiềm năng của con người có thể đạt đến đâu, vì chúng ta còn biết quá ít về tâm trí của con người. Thế mà chúng ta lại chẳng đầu tư mấy vào việc khám phá tâm trí con người, thay vào đó lại tập trung vào việc tăng tốc đường truyền Internet và hiệu quả của các thuật toán Big Data. Nếu không cẩn thận, chúng ta sẽ đâm đầu vào việc tạo ra những con người thoái hóa (downgraded humans) lạm dụng những hệ thống máy tính tiến hóa (upgraded computers) để tàn phá chính họ và tàn phá thế giới.

Lời người dịch: Vì đoạn này Yuval dùng chữ “tame humans” quá đắt làm tôi nhớ đến một đoạn mà D.H. Lawrence cũng dùng chữ “tame” trong phần cuối của cuốn “Lady Chatterley’s Lover”, mà tôi chép lại dưới đây.

“But won’t it ever come to an end?” she said.

“Ay, it will. It’ll achieve its own salvation. When the last real man is killed, and they’re all tame: white, black, yellow, all colors of tame ones: then they’ll all be insane. Because the root of sanity is in the balls. Then they’ll all be insane, and they’ll make their grand auto da fé. You know auto da fé means act of faith? Ay, well, they’ll make their own grand little act of faith. They’ll offer one another up.”

“You mean kill one another?”

“I do, duckie! If we go on at our present rate then in a hundred years’ time there won’t be ten thousand people in this island: there may not be ten. They’ll have lovingly wiped each other out.” The thunder was rolling further away.

“How nice!” she said.”

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s