Presiden Signal, Meredith Whittaker, memberikan peringatan keras terkait ketergantungan masyarakat pada teknologi kecerdasan buatan (AI) generatif. Dalam sebuah wawancara mendalam, Whittaker menegaskan bahwa chatbot seperti ChatGPT dan Claude bukanlah entitas yang memiliki kesadaran, perasaan, atau empati layaknya manusia. Menurutnya, penting bagi pengguna untuk memahami batasan fundamental teknologi tersebut agar tidak terjebak dalam ilusi hubungan emosional dengan mesin.
Whittaker menekankan bahwa meskipun ia sesekali memanfaatkan AI untuk membantu format dokumen, ia sangat menghindari penggunaan chatbot untuk proses berpikir atau pengembangan ide. Ia khawatir bahwa ketergantungan pada jawaban sistem yang hanya merangkum data rata-rata dari internet akan mematikan proses kreatif dan kedalaman berpikir manusia. Baginya, proses merumuskan gagasan adalah bagian inti dari kecerdasan yang tidak boleh digantikan oleh algoritma prediksi.
Sorotan tajam juga diarahkan pada visi masa depan yang ditawarkan oleh CEO Microsoft AI, Mustafa Suleyman. Suleyman sebelumnya memprediksi bahwa asisten AI seperti Copilot akan mampu menangani seluruh urusan belanja liburan pengguna. Whittaker menanggapi hal ini dengan skeptis dan menyebutnya sebagai potensi ancaman privasi yang sangat besar bagi pengguna global.
Dalam skenario belanja otomatis tersebut, sistem AI memerlukan akses penuh ke data pribadi yang sangat sensitif. Whittaker merinci bahwa sistem tersebut akan memantau percakapan keluarga, mengakses riwayat peramban, informasi kartu kredit, alamat rumah, hingga kalender pribadi. Pemberian izin akses yang luas ini dianggap sebagai bentuk intrusi yang terlalu dalam ke dalam kehidupan pribadi individu.
Whittaker memberikan kritik khusus terhadap integrasi AI ke dalam platform komunikasi seperti Signal. Ia menegaskan bahwa jika sebuah sistem AI memiliki akses untuk memantau percakapan di aplikasi pesan terenkripsi, hal tersebut secara teknis merupakan bentuk 'backdoor' atau pintu belakang. Akses semacam ini merusak prinsip keamanan dan privasi yang selama ini menjadi fondasi utama layanan enkripsi ujung-ke-ujung.
Sebagai penutup, ia mengingatkan bahwa kenyamanan yang ditawarkan oleh AI harus dibayar dengan pengorbanan data pribadi yang sangat berharga. Whittaker berargumen bahwa masyarakat perlu lebih kritis dalam menilai sejauh mana mereka bersedia memberikan kendali atas kehidupan mereka kepada sistem yang tidak memiliki etika atau tanggung jawab moral layaknya manusia.