Năm nay, các công ty mạng xã hội đã bị chính quyền chú ý. Các vụ kiện đã ảnh hưởng đến các tên tuổi lớn như Meta và TikTok vì họ không bảo vệ đủ người dùng dưới tuổi. Dưới áp lực đó, một số nền tảng như Instagram đã áp dụng các biện pháp bảo mật nghiêm ngặt trên các tài khoản thanh thiếu niên. Bây giờ, Meta đã cung cấp thông tin về bộ phân loại người lớn được hỗ trợ bởi AI.
Trong nhiều tháng qua, các tài khoản dưới tuổi (người dùng dưới 16) trên Instagram đã nhận được nhãn “tài khoản thanh thiếu niên”. Những hồ sơ được gắn nhãn như vậy có các hạn chế quyền riêng tư nghiêm ngặt nhất theo mặc định. Điều này nhằm ngăn chặn trẻ em hoặc thiếu niên liên lạc trực tiếp với những kẻ xấu hoặc kẻ săn mồi tiềm năng. Bởi vì những hạn chế này có thể giới hạn các tính năng, một số thiếu niên có thể cố gắng vượt qua chúng.
Meta’s AI adult classifier được Meta cung cấp thêm chi tiết về cách hoạt động
Một trong những cách mà thiếu niên có thể cố gắng vượt qua các hạn chế của tài khoản thanh thiếu niên là tạo một hồ sơ mới với ngày sinh giả mạo. Nhận thức được điều này, Meta đã thông báo vào tháng 9 rằng họ sẽ ra mắt công cụ bộ phân loại người lớn được hỗ trợ bởi AI để tự động phát hiện những trường hợp như vậy. Bây giờ, Allison Hartnett, giám đốc quản lý sản phẩm cho nhóm thanh thiếu niên và tác động xã hội của Meta, đã tiết lộ thêm chi tiết về cách công cụ này sẽ hoạt động.
Theo Hartnett, công cụ này sẽ phân tích nhiều tham số để đưa ra quyết định. Bao gồm các tài khoản mà người dùng theo dõi và loại nội dung họ thường tương tác. Hệ thống của Meta cũng sẽ chú ý đến các hành vi có khả năng đáng ngờ khi tạo một tài khoản Instagram mới, chẳng hạn như sử dụng email liên kết với hồ sơ hiện có hoặc thậm chí lấy ID thiết bị. Bằng cách này, họ có thể đưa ra quyết định chính xác hơn về ai đang tạo ra một hồ sơ mới.
Meta’s AI adult classifier sẽ gán nhãn các tài khoản nghi ngờ thuộc về thiếu niên là “thanh thiếu niên”
Bộ phân loại người lớn được hỗ trợ bởi AI của Meta sẽ có khả năng gán nhãn các tài khoản nghi ngờ thuộc về thiếu niên là “thanh thiếu niên”, tự động áp dụng tất cả các hạn chế. Các tài khoản có các hạn chế này không thể được gỡ bỏ mà không có sự cho phép trước từ cha mẹ.
Công ty hứa cung cấp công cụ kháng nghị nếu họ sai lầm khi gán nhãn một tài khoản là “thanh thiếu niên”. Tuy nhiên, chưa có ngày cụ thể cho việc công cụ kháng nghị sẽ có sẵn.
Instagram sẽ yêu cầu chứng minh danh tính hợp lệ hoặc phân tích khuôn mặt được hỗ trợ bởi AI khi cố gắng thay đổi tuổi
Có thể cũng có những trường hợp thiếu niên cố gắng gỡ bỏ các hạn chế bằng cách thay đổi ngày sinh của họ. Trong trường hợp này, Instagram sẽ yêu cầu chứng minh danh tính hợp lệ bằng giấy tờ có thẩm quyền từ chính phủ. Người dùng cũng sẽ có tùy chọn tải lên video selfie thông qua công nghệ của Yoti. Công nghệ này cung cấp dịch vụ nhận dạng hỗ trợ bởi AI tiên tiến có thể xác định tuổi của một người. Meta đã hợp tác với Yoti để xác minh tuổi của người dùng tùy chọn hẹn hò trên Facebook.
Bằng việc triển khai bộ phân loại người lớn được hỗ trợ bởi AI, Meta hy vọng sẽ ngăn chặn hiệu quả hơn các nỗ lực của thiếu niên trong việc giả mạo tuổi để vượt qua các hạn chế bảo mật. Điều này không chỉ giúp bảo vệ người dùng trẻ tuổi khỏi những nguy hiểm trực tuyến mà còn tăng cường sự an toàn và tin cậy của nền tảng Instagram.