Trao đổi với ICTnews, ông Nguyễn Xuân Nam, Giám đốc Chiến lược Công ty An ninh mạng Viettel (VCS) cho biết, cũng giống như trước đây đã có các trào lưu tương tự với Prisma - app chỉnh ảnh thành tranh sơn dầu hay FaceApp - thay mặt cá nhân vào các nhân vật nổi tiếng, mặc dù mang lại nhiều điều thích thú với người dùng nhưng song song tiềm ẩn một số rủi ro về an toàn an ninh mạng.

Cụ thể, ông Nguyễn Xuân Nam phân tích, theo điều khoản dịch vụ và chính sách quyền riêng tư, Voilà AI Artist có thể sử dụng hình ảnh người dùng tải lên trong các chiến dịch tiếp thị và quảng cáo của mình mà không cần thông báo hoặc trả tiền cho người dùng.

Voilà AI Artist cũng theo dõi hoạt động của người dùng, ngay cả khi người dùng không sử dụng ứng dụng. Nó kiếm được doanh thu thông qua đăng ký và bằng cách bán những quảng cáo này trước khi tạo hình ảnh.

Thắc mắc về vấn đề bảo mật thông tin khi tải và sử dụng Voilà AI Artist cũng đã được ICTnews đặt ra với admin cộng đồng an ninh mạng WhiteHat.vn.

Theo phân tích của các chuyên gia WhiteHat.vn, dù trong chính sách bảo mật có điều khoản nhà phát triển ứng dụng sẽ xóa hình ảnh của người dùng trong vòng 24 - 48 giờ. Tuy nhiên, trong thực tế, hầu hết các ứng dụng xử lý ảnh tích hợp trí tuệ nhân tạo đều thu thập thông tin từ hình ảnh của người dùng để huấn luyện cho hệ thống AI của mình. Và việc Voilà AI Artist có trung thực, thật thà như đã hứa hay không thì chưa được xác thực.

Chuyên gia WhiteHat.vn cũng chỉ ra rằng, Voilà AI Artist cũng cho phép các đối tác chạy quảng cáo có mục tiêu với những tài khoản không trả phí. Điều này đồng nghĩa với việc bằng một cách nào đó, ứng dụng đã lấy được các dữ liệu của người dùng để lựa chọn quảng cáo hiển thị phù hợp cho từng người.

Đặc biệt, ngoài các quyền phải có ở những ứng dụng chỉnh sửa ảnh thông thường như truy nhập vào camera, chụp ảnh, đọc nội dung, sửa đổi hoặc xóa nội dung trong bộ nhớ, ứng dụng này còn yêu cầu khá nhiều quyền nhạy cảm. Đơn cử như, một trong những yêu cầu khi sử dụng là quyền truy cập vị trí, quyền chạy khi khởi động, đọc thông báo và ngăn điện thoại chuyển sang chế độ ngủ.

“Theo đơn vị phát triển, khi tải về và cài đặt ứng dụng, người dùng đồng ý bị ràng buộc bởi điều khoản và chính sách quyền riêng tư của Voilà AI Artist. Bằng cách truy nhập ứng dụng, ngay từ lần truy nhập đầu tiên, người dùng đã đồng ý vô điều kiện với các điều khoản của Voilà AI Artist và không thể hủy ngang các ràng buộc này”, chuyên gia WhiteHat.vn lưu ý.

Cảnh giác để bảo vệ mình trong cuộc sống số

Cũng trong chia sẻ với ICTnews, Giám đốc Chiến lược Công ty VCS khuyến cáo: “Việc post ảnh cá nhân tràn lan trên mạng xã hội (ảnh hoạt hình luôn đi kèm ảnh gốc) có thể tạo điều kiện cho những người có mục đích xấu thu thập thông tin cá nhân về bạn, ít nhất là hình ảnh của bạn, của người thân trong gia đình bạn; đặc biệt trong các trường hợp chia sẻ ở chế độ công khai”.

Bên cạnh đó, ứng dụng Voilà AI Artist cũng có một số quyền khác như truy cập vị trí địa lý, truy cập vào thư mục của điện thoại. Những dữ liệu này ngoài phục vụ mục đích quảng cáo theo thói quen cũng tiềm ẩn nguy cơ rò rỉ dữ liệu quan trọng.

Ngoài ra, hiện nay các vấn đề về lừa đảo trực tuyến ngày một gia tăng. Việc sử dụng các ứng dụng chỉnh sửa ảnh như Voilà AI Artist hoàn toàn có thể đưa đến cho người dùng nguy cơ bị kẻ xấu lợi dụng, sử dụng hình ảnh cá nhân để lừa đảo người thân, bạn bè của người đó trong các trường hợp tạo tài khoản mạng xã hội giả, nhờ chuyển khoản, thanh toán thẻ...

“Hiện chưa có thông tin về vụ việc nào xảy ra liên quan tới ứng dụng này nhưng người dùng trước hết cần nâng cao cảnh giác để bảo vệ chính mình trong cuộc sống số ngày nay”, ông Nguyễn Xuân Nam khuyến nghị.

Vân Anh

App AI biến người dùng thành nhân vật hoạt hình gây sốt MXH

Trong vòng 24 giờ qua, mạng xã hội xuất hiện hàng loạt ảnh người dùng theo phong cách nhân vật trong những bộ phim hoạt hình nổi tiếng.

Những thoả thuận của Microsoft hay Amazon đang rơi vào tầm ngắm của cơ quan chức năng Vương quốc Anh với lo ngại chúng có thể làm giảm sự cạnh tranh trên thị trường.

Tuy nhiên, Calkins cho rằng, bất kể những thương vụ trên là đầu tư hay thâu tóm đe doạ đến cạnh tranh lành mạnh hay không, thì luôn có “khoảng trống” trong lĩnh vực AI để những nhà sáng tạo thể hiện tài năng.

“Đây là thị trường dành cho những người thông minh. Việc có đủ tiền để mua một phần hay toàn bộ những startup như Anthropic hay Mistral cũng ấn tượng, nhưng tiền không phải là tất cả trong thị trường này”, CEO Appian nói. “Nếu chỉ dùng tiền thì những gã khổng lồ như Google đã chiến thắng từ lâu” - ám chỉ để thương vụ thâu tóm DeepMind trị giá 500 triệu USD.

Theo nhà sáng lập Appian, “sẽ có những thuật toán AI khác nhau dành cho mục đích khác nhau và chúng sẽ có giá trị hơn hoặc kém đi phụ thuộc vào cách thức chúng ta sử dụng dữ liệu để huấn luyện”.

Với quan điểm này, cách duy nhất để hệ thống AI trở nên thực sự thông minh và hữu dụng là phải thấu hiểu người dùng muốn gì trong các tác vụ hằng ngày. “Nền tảng AI tốt nhất là nền tảng được đẩy dữ liệu vào, chứ không phải là ai mua được hệ thống lớn nhất”.

Dữ liệu là yếu tố tiên quyết

Cuộc đua AI ngày nay đang chuyển sang hướng “bao nhiêu dữ liệu có thể tiêu thụ” hơn là hệ thống thông minh đến đâu.

Các gã khổng lồ công nghệ đang “làm mọi cách để lấy hầu hết dữ liệu”, nhưng cuộc chơi sẽ khó khăn hơn.

Hiện nay chưa có bộ luật chặt chẽ nào ngăn chặn các Big Tech thu thập dữ liệu đào tạo AI dẫn đến vi phạm quyền riêng tư. Chính phủ Mỹ vẫn đang loay hoay với quy trình cấp liên bang, trong khi đó châu Âu có sự khởi đầu “thuận lợi” hơn.

Lý giải điều này, Calkins cho biết một phần là do chính phủ tại Mỹ có cách tiếp cận quá “thân thiện” với những doanh nghiệp công nghệ.

Vào tháng 3, EU đã chính thức phê chuẩn Đạo luật AI - bộ quy tắc toàn diện đầu tiên quản lý lĩnh vực trí tuệ nhân tạo.

Các doanh nghiệp cần rõ ràng về cách họ có thể sử dụng AI một cách an toàn và đảm bảo những thứ như bảo vệ quyền sở hữu trí tuệ và quyền riêng tư cá nhân của người dùng.

“Chúng ta cần một sân chơi rõ ràng và các công ty cần biết những dữ liệu nào được phép sử dụng”, CEO Appian kết luận.