DHS Ingin Melacak Pengguna Internet Dengan 'Skor Risiko'

Project Night Fury, kemitraan antara DHS dan University of Alabama di Birmingham, berusaha untuk menetapkan akun yang berpotensi "pro-teroris" sebagai "skor risiko" yang kemudian akan memengaruhi akun lain yang berinteraksi dengan mereka. Universitas telah setuju untuk mengembangkan metode otomatis untuk menentukan apakah akun yang ditautkan ke akun yang sudah diawasi itu sendiri adalah "pro-teroris", menggunakan kriteria seperti "perbandingan kumpulan kata kunci". Algoritme, bukan manusia, akan menentukan apakah pengguna dapat diberi label "pro-teroris" hanya dengan mengklik "suka" di kiriman Facebook atau me-retweet akun yang telah menerima label tersebut.

Terlepas dari batasan kecerdasan buatan yang diketahui saat sistem ini dirumuskan pada 2018, seluruh proses akan diotomatisasi, menurut dokumen tersebut. Universitas ditugaskan untuk membangun model untuk "mengidentifikasi pengaruh utama dari pemikiran pro-teroris" dan membuat sistem otomatis untuk mengungkap bot "yang dihasilkan secara terprogram untuk memberikan pengaruh" untuk menyebarkan "propaganda teroris" dan "kampanye pengaruh asing". Mereka kemudian akan menyusun daftar akun yang dicurigai dan menyerahkannya ke DHS, bersama dengan nama, email, nomor telepon, gambar, dan postingan mereka.

Yang hilang dari kontrak adalah definisi untuk konsep-konsep penting seperti apa sebenarnya arti “pro-teroris” – atau apa yang akan diukur oleh “skor risiko”, apakah itu risiko menjadi teroris atau hanya bersimpati dengannya – atau penjelasan tentang bagaimana sebuah proses otomatis dapat membuat perbedaan seperti itu tidak ada definisi yang jelas.

Juga tidak jelas bagaimana program tersebut dapat membedakan antara konten yang berhubungan dengan terorisme dan materi yang terkait dengan perdagangan narkoba dan “disinformasi”, yang juga ingin dilacaknya. Pada tanggal kontrak yang dilihat oleh Brennan Center, DHS belum mengetahui cara mengukur simpati teroris dan mencari bantuan dari peneliti universitas untuk "mengidentifikasi atribut yang relevan".

Inspektur Jenderal DHS diberi tahu tentang potensi pelanggaran privasi pada Project Night Fury pada tahun 2018, dan hingga permintaan FOIA dari Brennan Center dipenuhi, semua yang diketahui tentang proyek tersebut berasal dari laporan OIG tahun 2019, yang menemukan agen yang terlibat dalam proyek tersebut. tidak mematuhi kebijakan departemen yang mengatur privasi dan perlindungan informasi sensitif.

Sementara DHS seharusnya berhenti mengerjakan Night Fury pada tahun 2019, tidak diketahui sejauh mana proyek itu, atau apakah asetnya dipindahkan ke tempat lain dalam aparat penegak hukum. Bea Cukai dan Perlindungan Perbatasan baru-baru ini ditemukan menggunakan alat bertenaga AI serupa yang disebut Babel X untuk mengintai melalui akun media sosial para pelancong di perbatasan AS.[IT/r]