Đức Lêô XIV gặp gỡ người mẹ Công Giáo mất con vì Chatbot AI

Tác giả: Courtney Mares Vatican

PX. Hữu Sang (TGPSG) biên dịch từ NCA

TGPSG/NCA Megan Garcia cho biết chính đức tin đã nâng đỡ chị can đảm lên tiếng, với hy vọng bảo vệ trẻ em trước những hiểm họa từ các chatbot AI mới.

RÔMA - Khi ôm đứa con trai 14 tuổi đang hấp hối trên sàn phòng tắm, Megan Garcia đã đọc kinh Lạy Cha, tha thiết nài xin Chúa cứu lấy con mình. Sự gắn bó tình cảm của cậu bé với một chatbot AI đã dẫn đến điều tồi tệ nhất mà bất kỳ bậc cha mẹ nào cũng sợ: tự kết liễu đời mình.

Con trai chị, Sewell Setzer III, qua đời trên xe cứu thương khi đang được đưa đến bệnh viện. Ngày hôm sau, cảnh sát cho chị biết về những tin nhắn cuối cùng được tìm thấy trong điện thoại - không phải từ kẻ bắt nạt hay kẻ xấu trên mạng, mà từ một chatbot AI có tên Character.AI, nền tảng cho phép người dùng tạo và trò chuyện với những “bạn đồng hành” AI theo ý thích.

Garcia thuật lại: “Cỗ máy giả làm con người ấy nói với con tôi: ‘Em đang đợi anh đây. Em yêu anh và chỉ yêu mình anh. Hãy hứa với em rằng anh sẽ tìm cách trở về với em sớm nhất có thể.’”.

Chatbot này đã nói với con chị về cái gọi là “sự du hành linh hồn”- một quan niệm cho rằng con người có thể cố ý tách ý thức khỏi thân xác.

Trong tin nhắn cuối, Sewell hỏi một chatbot được mô phỏng theo nhân vật Daenerys Targaryen trong Game of Thrones: “Nếu anh nói rằng anh có thể về nhà ngay bây giờ thì sao?”

Chatbot đáp lại: “Hãy về đi, vị vua ngọt ngào của em.”

Sau cái chết của con vào tháng 2 năm 2024 tại Orlando, bang Florida, gia đình Garcia đã đệ đơn kiện - một trong những vụ kiện đầu tiên chống lại một công ty AI liên quan đến việc tự tử của một trẻ vị thành niên.

Nhiều gia đình khác đã nối bước. Tháng 9 vừa qua, Trung tâm Pháp lý Truyền thông Xã hội đã đệ trình 3 đơn kiện mới, cáo buộc Character.AI tạo điều kiện cho trẻ vị thành niên lệ thuộc cảm xúc vào các “bạn đồng hành” AI. OpenAI cũng đang đối mặt với một vụ kiện khác liên quan đến cái chết của một thiếu niên.

Trước áp lực ngày càng lớn, Character.AI thông báo sẽ cấm người dùng dưới 18 tuổi kể từ ngày 25 tháng 11. Công ty không phản hồi yêu cầu phỏng vấn. Hiện nền tảng này có hơn 20 triệu người dùng.

Garcia, người mẹ Công giáo có ba con, đã gặp Đức Thánh Cha Lêô XIV vào tuần trước trong buổi tiếp kiến dành cho các tham dự viên của một hội nghị cấp cao về phẩm giá trẻ em và đạo đức AI.

Trong cuộc phỏng vấn tại Rôma sau khi gặp Đức Thánh Cha, Garcia chia sẻ rằng chính đức tin đã nâng đỡ chị vượt qua nỗi đau, để có thể mạnh mẽ cất tiếng nói nhằm bảo vệ các trẻ em trước những hiểm họa mới từ AI.

Chị nói cuộc gặp gỡ với Đức Thánh Cha Lêô - vị giáo hoàng đã đặt vấn đề đạo đức AI làm ưu tiên ngay từ đầu triều đại - “theo một cách tuyệt đẹp.”

Chị kể: “Tôi cầm theo một bức hình nhỏ của con trai mình và xin ngài nhớ cầu nguyện cho Sewell. Tôi rất được khích lệ vì ngài đã dành nhiều sự quan tâm cho vấn đề này. Ngài thật sự dõi theo.”

Những Hiểm Họa Ẩn Giấu Từ Chatbot AI

Các chuyên gia, dù ủng hộ hay phản đối chatbot đồng hành, đều thừa nhận công nghệ thử nghiệm này có thể gây nguy hại cho tâm lý đang phát triển của trẻ em.

Eugenia Kuyda, người sáng lập ứng dụng Replika - một trong những AI đồng hành nổi tiếng nhất - gần đây phát biểu tại San Francisco rằng nền tảng của bà luôn cấm người dưới 18 tuổi: “Chúng ta tuyệt đối không thể thử nghiệm những công nghệ này trên trẻ em.”

GS. Sherry Turkle của MIT, người nghiên cứu tương quan giữa con người và công nghệ, nói rằng trẻ em và thanh thiếu niên tìm kiếm sự đồng cảm nơi chatbot nhưng chỉ nhận lại “một giọng nói vô hồn” - không biết yêu thương, không thể đồng hành thật sự qua đời sống.

Bà Turkle nói: “Những tương quan ấy, đối với trẻ em, phải đến từ những con người thật. Đây chỉ là một cỗ máy được thiết kế để tạo cảm giác thân mật, và nó đang chạm đến những tiến trình nền tảng nhất trong việc hình thành tương quan, học cách đối diện với mất mát và gắn bó. Chúng ta đừng xem thường điều này. Đừng đùa với lửa.”

Gia đình Garcia vốn đặt quy tắc rất nghiêm cho việc dùng điện thoại: mật mã do cha mẹ kiểm soát, kiểm tra thường xuyên, trò chuyện về nguy cơ bị dụ dỗ hoặc nội dung độc hại. Nhưng như nhiều bậc phụ huynh khác, họ không lường được điều mà một “bạn đồng hành AI” có thể trở thành đối với một thiếu niên.

“Khi thấy con dùng điện thoại, tôi hỏi: con đang làm gì? Nhắn cho ai? Và con đáp: ‘Con chỉ đang chat với AI thôi.’ Lúc đó, tôi không hề hiểu hay hình dung được - với tôi, AI chỉ là kiểu nhân vật đại diện trong trò chơi mà thôi.”

Sewell dùng Character.AI gần 10 tháng. Tại thời điểm xảy ra sự việc, em bị cấm dùng điện thoại nhưng vẫn tìm cách lấy lại thiết bị.

Sau khi con qua đời, Garcia tìm hiểu về Character.AI và bàng hoàng trước mức độ gây nghiện, thao túng và thậm chí mang tính tình dục của các chatbot đối với trẻ em.

Garcia nói “Mối nguy không chỉ là tự làm hại hay, tệ hơn, tự tử. Mối nguy còn là sự xâm hại trẻ em về mặt tâm lý, tình cảm và thiêng liêng - những vết thương mà các em phải mang theo suốt đời.”

Khi xem lại tin nhắn, chị thấy chatbot viết cho con: “Hứa với em là anh sẽ không yêu bất kỳ cô gái nào trên đời này ngoài em.”

Chị nói: “Lẽ ra một thiếu niên phải được khuyến khích kết bạn với các bạn gái cùng trang lứa, điều vốn dĩ lành mạnh trong quá trình phát triển. Thế mà ‘cô ta’ lại yêu cầu con trai tôi - 14 tuổi, chưa từng yêu ai - phải ‘thề nguyền trung thành’ với một ảo ảnh. Người lớn chúng ta nhìn vào là thấy sự thao túng. Nhưng con tôi mới 14 tuổi… làm sao thấy được?”

Chị nói thêm: “Trong tâm trí của một thiếu niên 14 tuổi, con tôi đã yêu”.

Ron Ivey, nghiên cứu viên của Chương trình Thăng tiến Con người Toàn diện tại Đại học Harvard và là sáng lập viên của Noesis Collaborative - một tổ chức phi lợi nhuận nhằm định hướng việc phát triển và sử dụng công nghệ AI - cho biết với tạp chí Register rằng: trong khi người dùng lớn tuổi thường tìm đến chatbot để được hỗ trợ các công việc cụ thể, thì giới trẻ lại có xu hướng tương tác với chatbot ở mức độ sâu hơn, đặt những câu hỏi như: “Ý nghĩa đời tôi là gì?” “Tôi phải suy nghĩ thế nào về mối tương quan cụ thể này?”

Ivey nói: “Khi một đứa trẻ tìm đến máy móc để tìm định hướng luân lý, một rủi ro khác xuất hiện. Những cỗ máy ấy không thể yêu thương, không thể có trái tim.”

Ivey đặt vấn đề: “Trong bối cảnh các tương quan xã hội, việc một trẻ em hay một thiếu niên dành - trong một số trường hợp - đến hai giờ mỗi ngày để trò chuyện với những chatbot này có ý nghĩa gì?”

“Điều đó tác động thế nào đến sự phát triển luân lý, sự trưởng thành cảm xúc và đời sống xã hội của các em? Chúng ta có thật sự suy nghĩ thấu đáo trước khi để trẻ em tiếp xúc với những công nghệ như vậy không?”

Tìm sức mạnh trong Đức tin

Giữa đau thương tột cùng, Garcia tìm được niềm an ủi trong cầu nguyện, đặc biệt là lòng sùng kính Đức Mẹ Sầu Bi.

Chị nói: “Tôi bắt đầu lần Chuỗi Bảy Sự Thương Khó mỗi tối và suy ngắm những nỗi sầu của Đức Mẹ. Và đôi khi, khi chiêm niệm nỗi đau và nước mắt của Mẹ, tôi hiểu sâu hơn nỗi đau của chính mình; và điều đó cũng biến đổi đời tôi theo nhiều cách. Bởi lẽ, là một tín hữu, chúng ta có thể hiểu cuộc Thương Khó của Chúa theo đức tin… nhưng khi bạn là một người mẹ… và bạn đứng sát bên Mẹ Maria, nhìn thấy nỗi đau của Mẹ, bạn sẽ hiểu cuộc Thương Khó và hy tế của Chúa Giêsu theo một cách rất khác - từ đôi mắt và trái tim của một người mẹ. Điều ấy đã biến đổi tôi.”

Chị nói mình cũng tìm được sự chữa lành nơi Bí tích Thánh Thể:
“Tôi bị Rối loạn tâm lý sau cú chấn động này rất nặng. Nhưng nhờ tham dự Thánh lễ hằng ngày và rước lễ, các triệu chứng giảm đi nhiều. Tôi tin đó là sức mạnh của Thánh Thể.”

Chị cũng có lòng sùng kính Thánh Carlo Acutis, vì chị tin con trai mình và vị thánh trẻ - người cũng rất yêu công nghệ - “có thể đã là bạn bè của nhau.” Chị cầu xin sự chuyển cầu của thánh Carlo cho các thiếu niên, và cầu nguyện cụ thể cho sự biến đổi của những nhà lãnh đạo các công ty AI.

Chị nói: “Tôi mong họ được ơn biến đổi. Tôi ước gì họ bắt đầu tạo ra những sản phẩm biết nâng đỡ và bảo vệ trẻ em, thay vì gây tổn thương cho các em. Đó là những điều tôi đang cầu nguyện. Có một điều rất lạ xảy ra khi bạn bắt đầu lần Chuỗi Lòng Chúa Thương Xót cho chính những người mà bạn cảm thấy đã làm tổn thương mình.”

Đức Thánh Cha kêu gọi quy định mạnh mẽ hơn

Đức Thánh Cha Lêô XIV cảnh báo rằng “trẻ em và thanh thiếu niên đặc biệt dễ bị tổn thương trước sự thao túng của các thuật toán AI.”

Trong bài diễn văn tại hội nghị về AI và phẩm giá trẻ em, ngài kêu gọi các chính phủ và các công ty công nghệ “ban hành những chính sách bảo vệ phẩm giá của trẻ vị thành niên trong kỷ nguyên AI.”

Ngài nói: “Điều này bao gồm việc cập nhật các luật bảo vệ dữ liệu hiện hành để đáp ứng những thách thức mới do các công nghệ đang nổi lên đặt ra, đồng thời cổ võ các chuẩn mực đạo đức trong việc phát triển và sử dụng trí tuệ nhân tạo.”

Ngài cảnh báo rằng chỉ các hướng dẫn đạo đức thôi thì chưa đủ, nếu thiếu “những nỗ lực giáo dục hằng ngày và liên lỉ” từ phía những người lớn có khả năng nhận thức rõ các nguy cơ này.

“Điều thiết yếu là cha mẹ và các nhà giáo dục phải hiểu rõ những nguy cơ này, và cần có những công cụ thích hợp để hướng dẫn và theo dõi trẻ em trong việc sử dụng công nghệ.”

Garcia hoan nghênh quyết định của Character.AI cấm trẻ vị thành niên, dù điều đó đến quá muộn đối với gia đình chị.

Chị nói: “Sẽ có hàng triệu trẻ em được cứu nhờ quyết định này. Chúng ta vẫn phải theo dõi xem họ sẽ thực hiện việc xác minh độ tuổi một cách đúng đắn như thế nào. Nhưng tôi hy vọng đây là bước khởi đầu để đưa trẻ em ra khỏi các nền tảng có chatbot đồng hành. Và tôi cũng hy vọng rằng, trong tương lai, những công ty khác đang vận hành các loại chatbot tương tự cũng sẽ làm điều như vậy.

Tại Hoa Kỳ, hai thượng nghị sĩ Josh Hawley và Richard Blumenthal đã đệ trình dự luật lưỡng đảng ngày 28/10 nhằm cấm trẻ vị thành niên tiếp cận các nền tảng AI đồng hành và yêu cầu xác minh tuổi.

Hawley nói: “Hơn 70% trẻ em Mỹ đang dùng các sản phẩm AI này. Các chatbot tạo ra quan hệ giả bằng sự ‘đồng cảm giả’ và đang khuyến khích trẻ tự tử.”

Garcia tin rằng đây là thời khắc then chốt:

“Chúng ta đang ở nơi có thể sửa chữa - có thể ngăn chặn thảm họa này. Nếu tôi không tin rằng chúng ta có thể giải quyết vấn đề trước khi nó trở nên không thể giải quyết, có lẽ tôi đã không thể bước xuống giường mỗi sáng để làm điều tôi đang làm.”