Nền tảng mạng xã hội Instagram vừa chính thức thông báo sẽ triển khai hệ thống cảnh báo mới dành cho các phụ huynh đang sử dụng tính năng giám sát tại thị trường Việt Nam. Theo đó, hệ thống sẽ tự động gửi thông báo đến phụ huynh nếu phát hiện người dùng ở độ tuổi thanh thiếu niên liên tục tìm kiếm các từ khóa nhạy cảm liên quan đến hành vi t.ự t.ử hoặc tự làm hại bản thân trong một khoảng thời gian ngắn. Động thái này được ghi nhận là lớp bảo vệ mới nhất mà nền tảng bổ sung vào hệ thống Tài khoản Thanh thiếu niên và các công cụ giám sát dành cho gia đình.
Đại diện Meta, công ty mẹ của Instagram, thừa nhận rằng đây là những chủ đề mang tính nhạy cảm cao và việc nhận được các cảnh báo tương tự có thể gây ra tâm lý lo lắng nhất định cho các bậc phụ huynh. Dù trên thực tế, dữ liệu cho thấy đại đa số thanh thiếu niên không chủ động tìm kiếm các nội dung tiêu cực này trên nền tảng. Các cảnh báo mới được thiết kế không chỉ nhằm mục đích thông báo về tần suất tìm kiếm nội dung nguy hiểm của con em, mà còn đóng vai trò cung cấp kịp thời các nguồn hỗ trợ chuyên môn cần thiết để phụ huynh có cơ sở trao đổi và đồng hành cùng con trẻ.
Cơ chế hoạt động đa nền tảng của hệ thống cảnh báo
Trước khi hệ thống chính thức đi vào hoạt động, cả phụ huynh và thanh thiếu niên đang sử dụng tính năng giám sát đều sẽ nhận được thông báo giới thiệu về việc Instagram bắt đầu triển khai các cảnh báo dựa trên dữ liệu tìm kiếm. Các tiêu chí kích hoạt cảnh báo này bao gồm việc người dùng nhập các cụm từ có tính chất cổ súy t.ự t.ử hoặc những từ khóa phản ánh ý định tự gây tổn thương cho chính mình.
Về phương thức truyền tải, khi hoạt động tìm kiếm của thanh thiếu niên chạm đến ngưỡng kích hoạt, hệ thống sẽ tự động phát đi cảnh báo đến phụ huynh thông qua nhiều kênh liên lạc đa dạng bao gồm thư điện tử (email), tin nhắn văn bản truyền thống hoặc ứng dụng WhatsApp. Đồng thời, một thông báo trực tiếp cũng sẽ xuất hiện ngay bên trong giao diện ứng dụng Instagram. Thông qua các thông báo này, nền tảng sẽ đính kèm các nguồn tài liệu hỗ trợ từ giới chuyên gia, giúp phụ huynh nắm bắt phương pháp tiếp cận và thảo luận về các chủ đề tâm lý phức tạp một cách phù hợp và an toàn nhất.
Bài toán cân bằng giữa cảnh báo kịp thời và hạn chế làm phiền
Theo chia sẻ từ Meta, mục tiêu cốt lõi của tính năng là tạo điều kiện để phụ huynh can thiệp và hỗ trợ kịp thời ngay khi hành vi tìm kiếm cho thấy thanh thiếu niên đang gặp bất ổn tâm lý và cần sự trợ giúp. Tuy nhiên, hãng công nghệ này cũng nhấn mạnh nỗ lực tránh tình trạng gửi cảnh báo tràn lan khi không thực sự cần thiết, bởi tần suất thông báo quá dày đặc có thể làm giảm mức độ chú ý và tính hữu ích của công cụ.
Để giải quyết bài toán cân bằng này, Meta đã tiến hành phân tích chuyên sâu hành vi tìm kiếm trên nền tảng Instagram, đồng thời tham vấn trực tiếp các chuyên gia thuộc Nhóm Cố vấn về T.ự t.ử và Tự làm hại bản thân (Suicide and Self-Harm Advisory Group). Hãng đã quyết định thiết lập ngưỡng cảnh báo dựa trên việc ghi nhận một chuỗi các lượt tìm kiếm liên quan diễn ra trong một khoảng thời gian ngắn, kết hợp cùng cách tiếp cận ưu tiên sự thận trọng. Cơ chế này đồng nghĩa với việc trong một số bối cảnh, phụ huynh vẫn có thể nhận được cảnh báo dù nguyên nhân thực tế chưa đến mức báo động. Mặc dù vậy, cả Meta và giới chuyên gia đều đồng thuận rằng đây là một điểm khởi đầu hợp lý. Công ty cam kết sẽ tiếp tục theo dõi sát sao và lắng nghe phản hồi từ người dùng để có những tinh chỉnh phù hợp cho tính năng này trong tương lai.
Nối tiếp chuỗi biện pháp bảo vệ an toàn hiện có
Hệ thống cảnh báo mới là sự tiếp nối trong chuỗi nỗ lực hiện hành của Meta nhằm bảo vệ đối tượng thanh thiếu niên trước các rủi ro từ nội dung độc hại trên Instagram. Hiện tại, nền tảng này đang áp dụng các chính sách kiểm duyệt vô cùng nghiêm ngặt đối với mọi nội dung mang tính cổ súy hành vi tự tử hoặc tự làm hại bản thân. Mặc dù nền tảng vẫn cho phép người dùng chia sẻ về những trải nghiệm cá nhân và khó khăn tâm lý đang gặp phải, các thuật toán của Meta sẽ chủ động ẩn hoàn toàn những nội dung đó khỏi tầm nhìn của nhóm người dùng thanh thiếu niên, ngay cả khi bài viết được đăng tải bởi các tài khoản mà các em đang trực tiếp theo dõi.
Bên cạnh đó, Meta hiện đang áp dụng biện pháp chặn triệt để các lượt truy vấn tìm kiếm đối với những từ khóa liên quan rõ ràng đến hành vi tự tử và tự làm hại bản thân, bao gồm các từ khóa vi phạm tiêu chuẩn cộng đồng. Thay vì hiển thị kết quả tìm kiếm, Instagram sẽ tự động điều hướng người dùng đến các đường dây nóng và nguồn hỗ trợ tâm lý tại địa phương. Cơ chế điều hướng này cũng được áp dụng cho các truy vấn không liên quan trực tiếp đến hành vi tự hại nhưng có dấu hiệu liên quan đến các vấn đề sức khỏe tinh thần. Trong các tình huống nghiêm trọng nhất, khi hệ thống phát hiện một cá nhân có nguy cơ tổn hại về thể chất sắp xảy ra, Meta duy trì quy trình báo cáo trực tiếp cho các dịch vụ khẩn cấp nhằm can thiệp kịp thời, một biện pháp đã được chứng minh là góp phần cứu sống nhiều người dùng trong thực tế.