圖片| Getty Images
不管你在哪里工作，人工智能技術系統(tǒng)都有可能會分析你在Slack、微軟團隊、Zoom和其他流行應用程序上的消息和信息。
一家專門分析員工信息的人工智能公司Aware稱，沃爾瑪、達美航空、T-Mobile、雪佛龍和星巴克等知名美國大雇主以及雀巢和阿斯利康等歐洲品牌，已經求助于這家成立七年的初創(chuàng)公司來監(jiān)控他們普通員工的聊天信息。
Aware--這家總部位于美國俄亥俄州哥倫布市的初創(chuàng)公司的聯(lián)合創(chuàng)始人兼首席執(zhí)行官杰夫舒曼（Jeff Schumann）表示，人工智能幫助公司“了解溝通中的風險”，實時了解員工的情緒，而不是依賴于每年一次或一年兩次的調查。
舒曼表示，使用Aware分析信息中的匿名數(shù)據(jù)，客戶可以了解特定年齡段或特定地理位置的員工對新的公司政策或營銷活動的反應。Aware的數(shù)十個人工智能模型旨在閱讀文本和處理圖像，還可以識別欺凌、騷擾、歧視、不合規(guī)、色情、裸體和其他行為。
舒曼表示，Aware的分析工具--監(jiān)測員工情緒和內容的工具--無法標記單個員工的姓名。但他補充說，在客戶預先確定的極端威脅或其他風險行為發(fā)生時，其單獨的eDiscovery工具可以確定到人。
Aware表示，沃爾瑪、T-Mobile、雪佛龍和星巴克將其技術用于治理風險和合規(guī)，這類工作約占公司業(yè)務的80%。
Aware還表示，其數(shù)據(jù)存儲庫包含代表300多萬名員工約200億次個人互動的消息。
Humane Intelligence聯(lián)合創(chuàng)始人朱塔威廉姆斯(Jutta Williams)在談到人工智能員工監(jiān)控技術時表示：“其中很多都變成了思想監(jiān)控。”她認為，“這是在以一種我從未見過的方式對待人們。”
在美國CNBC的報道中，阿斯利康的一位代表說，該公司使用eDiscovery產品，但不使用分析來監(jiān)測情緒或危害性。達美航空告訴CNBC，它使用Aware的分析和eDiscovery來監(jiān)控趨勢和情緒，作為收集員工和其他利益相關者反饋的一種方式，并將法律記錄保留在其社交媒體平臺上。
但這已經涉及侵犯員工隱私的嚴重問題。
關于人工智能風險的非營利組織Humane Intelligence的聯(lián)合創(chuàng)始人朱塔威廉姆斯(Jutta Williams)表示，人工智能為所謂的企業(yè)內部風險項目增加了一個新的、可能存在問題的發(fā)展，這些項目多年來一直存在于評估商業(yè)間諜活動等方面，尤其是在電子郵件通信中。
將人工智能應用于廣泛的員工監(jiān)控，在過去一年里獲得爆炸式增長，自2022年底推出OpenAI的ChatGPT聊天機器人以來。生成式人工智能迅速成為企業(yè)財報電話會議的流行語，從金融服務和生物醫(yī)學研究到物流、在線旅行和公用事業(yè)，某種形式的人工智能正在幾乎每個行業(yè)實現(xiàn)任務自動化。
舒曼表示，Aware的收入在過去五年里平均每年增長150%，其典型客戶約有30000名員工。排名靠前的競爭對手包括Qualtrics、Relative、Proofpoint、Smarsh和Netskope。
按照行業(yè)標準，Aware保持著相當精簡的狀態(tài)。該公司上一次融資是在2021年，當時它在高盛(Goldman Sachs)牽頭的一輪融資中籌集了6000萬美元。
相比之下，大型語言模型公司，如OpenAI和Anthropic，已各自籌集了數(shù)十億美元資金，主要來自戰(zhàn)略合作伙伴。
舒曼在保險公司Nationwide從事企業(yè)協(xié)作工作近八年后，于2017年創(chuàng)立了這家公司。在此之前，他是一名企業(yè)家。Aware并不是他創(chuàng)辦的第一家引起人們對奧威爾式公司治理的擔憂。
該公司每年都會發(fā)布一份報告，匯總大公司發(fā)送的數(shù)十億條信息--2023年的數(shù)字是65億條--的洞察力，并將感知到的風險因素和工作場所情緒得分制成表格。舒曼將每年通過工作場所交流平臺發(fā)送的數(shù)萬億條消息稱為“世界上增長最快的非結構化數(shù)據(jù)集”。
當包括其他類型的共享內容時，如圖像和視頻，Aware的分析人工智能每天分析超過1億條內容。在這樣做的過程中，這項技術創(chuàng)建了一個公司社交圖譜，查看哪些團隊內部相互交談的次數(shù)比其他團隊更多。
舒曼在談到這款分析工具時說，它使用來自企業(yè)客戶的數(shù)據(jù)來訓練其機器學習模型。該公司表示，該公司的數(shù)據(jù)庫包含約65億條消息，代表著300多萬名獨立員工的約200億條個人互動。
“為了保護隱私，它不會有人名，”舒曼說。
但Aware的eDiscovery工具的操作方式不同。一家公司可以根據(jù)公司選擇的“極端風險”類別設置對員工姓名的基于角色的訪問權限，該類別指示Aware的技術在某些情況下為人力資源或其他公司代表提取個人的姓名。
紐約大學AI Now研究所的執(zhí)行主任Amba Kak擔心使用人工智能來幫助確定什么被認為是危險的行為。“這對人們在工作場所所說的話產生了寒蟬效應。”
她表示，美國聯(lián)邦貿易委員會、司法部和平等就業(yè)機會委員會都對此事表示了擔憂。她強調“這些既是隱私問題，也是工人權利問題。”
