科技棱鏡涵蓋 100 個(gè)獨(dú)立技術(shù)趨勢(shì)。為了幫助讀者深入理解這些趨勢(shì)，Thoughtworks分五個(gè)“視角”來(lái)進(jìn)行分析。這些視角將幫助讀者重點(diǎn)了解各個(gè)發(fā)展趨勢(shì)對(duì)貴企業(yè)意味著什么，以及需要如何做好準(zhǔn)備。這些視角可以單獨(dú)使用，也可以相互結(jié)合以形成更廣闊的視角，開(kāi)辟全新的調(diào)查途徑和思路。

本報(bào)告重點(diǎn)介紹了通過(guò)不同視角能夠發(fā)現(xiàn)的各種機(jī)會(huì)，以及可用于衡量新趨勢(shì)發(fā)展速度的預(yù)兆信號(hào)。報(bào)告將從以下兩個(gè)方面分析這 100 個(gè)趨勢(shì)：時(shí)間范圍，以及建議的應(yīng)對(duì)策略，即采納、分析或預(yù)測(cè)。希望本報(bào)告能幫助讀者識(shí)別在當(dāng)下和未來(lái)影響貴企業(yè)的最重要趨勢(shì)。

以下是報(bào)告全文之視角 Ⅳ：技術(shù)作惡的影響擴(kuò)大

“惡意”技術(shù)通常與勒索軟件、入侵系統(tǒng)竊取數(shù)據(jù)或制造計(jì)算機(jī)病毒等犯罪活動(dòng)聯(lián)系在一起，但這并不是全部。

由于技術(shù)形勢(shì)的發(fā)展，技術(shù)作惡的定義也應(yīng)該相應(yīng)擴(kuò)展，以包含那些雖然合法甚至被廣泛接受，但最終會(huì)威脅社會(huì)福祉的行為。

科技棱鏡趨勢(shì)分析

隨著技術(shù)變得越來(lái)越復(fù)雜，技術(shù)被誤用濫用的形式也越來(lái)越多。人們?cè)谌粘；顒?dòng)中越來(lái)越依賴科技，相應(yīng)地，他們?nèi)找媸艿揭庀氩坏降?、甚至是惡意后果的影響。再加上高度的自?dòng)化以機(jī)器的速度做出決策，出錯(cuò)的可能性就會(huì)迅速增加。

根據(jù)我們的定義，“作惡”技術(shù)不僅包括惡意軟件和黑客工具等犯罪技術(shù)，還包括惡意廣告和客戶定位。一項(xiàng)技術(shù)是否屬于作惡，可能是一個(gè)視角問(wèn)題。有些人并不認(rèn)為互聯(lián)網(wǎng)廣告、跟蹤 Cookie 或社交媒體傳播活動(dòng)具有侵入性，他們很樂(lè)意用自己的數(shù)據(jù)換取他們認(rèn)為個(gè)性化或特殊價(jià)值的服務(wù)。有些人則在瀏覽器中安裝了廣告攔截軟件，并完全避開(kāi)微博、朋友圈等社交應(yīng)用。對(duì)某些人來(lái)說(shuō)，同意跟蹤記錄或收集個(gè)人數(shù)據(jù)基本上是一種自動(dòng)選擇；而對(duì)另一些人來(lái)說(shuō)，則需要經(jīng)過(guò)謹(jǐn)慎思考。這就是說(shuō)，由于不同人口群體對(duì)技術(shù)的獲取和體驗(yàn)程度不同，以及關(guān)于知情同意的信息和選擇的呈現(xiàn)方式存在各種差異，導(dǎo)致許多人已經(jīng)忘記了一個(gè)事實(shí)，即他們首先是有選擇權(quán)的。

并非所有的作惡行為都是蓄意或是惡意的。算法或機(jī)器學(xué)習(xí)系統(tǒng)中的偏差就是一例。由于在構(gòu)建或開(kāi)發(fā)過(guò)程中發(fā)生的意外偏差和疏忽，可能會(huì)對(duì)某些客戶群體表現(xiàn)出惡意傾向，但這種偏差并非由于系統(tǒng)遭到了破壞或設(shè)計(jì)者有意為之。

相關(guān)預(yù)兆信號(hào)包括：

? 技術(shù)日益普及，潛在威脅同時(shí)也在擴(kuò)大。海量的聯(lián)網(wǎng)設(shè)備就是一個(gè)簡(jiǎn)單的例子：弗若斯特沙利文咨詢公司（全球最大的企業(yè)增長(zhǎng)咨詢公司） 預(yù)測(cè)，到 2026 年，全球活躍物聯(lián)網(wǎng) (IoT) 設(shè)備的數(shù)量將超過(guò) 650億臺(tái)。所有這些設(shè)備都會(huì)存在可能被利用的潛在安全漏洞。

? 消費(fèi)者對(duì)廣告和營(yíng)銷技術(shù)的態(tài)度和行為正在發(fā)生變化，接受廣泛使用自身數(shù)據(jù)的人和更關(guān)心隱私的人之間的分歧也越來(lái)越大。

? 對(duì)于社交媒體在政治競(jìng)選中的使用和影響，以及社交媒體渠道如何影響健康、政治和其他社會(huì)輿論，人們?nèi)找娓械浇箲]。

? 人工智能 (AI) 和機(jī)器學(xué)習(xí) (ML) 的使用越來(lái)越多，造成了一些意想不到的后果，如算法和所收集數(shù)據(jù)集中的偏見(jiàn)。對(duì)惡意影響的擔(dān)憂促使人們?cè)噲D控制人工智能在比如招聘等流程中的使用。

? 圍繞數(shù)據(jù)收集、保留和使用的法規(guī)得到加強(qiáng)，如《中華人民共和國(guó)個(gè)人信息保護(hù)法》（新版）、《歐洲通用數(shù)據(jù)保護(hù)條例》(GDPR)、《加州隱私權(quán)法》(CPRA) 以及其他司法轄區(qū)的同類規(guī)定。

機(jī)會(huì)

隨著數(shù)據(jù)泄露接近歷史峰值，防范黑客蓄意攻擊和惡意軟件變得日益重要。企業(yè)必須在日益擴(kuò)大的攻擊面上大力投入進(jìn)行防御，以對(duì)抗資金雄厚、組織嚴(yán)密的攻擊者。然而，隨著發(fā)生危險(xiǎn)的可能性上升，企業(yè)還必須考慮惡意技術(shù)其他方面的問(wèn)題。我們相信，尊重客戶的意愿，避免”如影隨形“的受眾定位，并根除算法系統(tǒng)中的偏見(jiàn)，不僅從本質(zhì)上講是合乎倫理的，而且有利于建立信任和積極的公眾認(rèn)知，最終有利于企業(yè)的健康發(fā)展。

據(jù)媒體報(bào)道，SolarWinds 供應(yīng)鏈遭黑客攻擊，致使該公司損失了近 2,000 萬(wàn)美元，保險(xiǎn)索賠估計(jì)達(dá)到 1 億美元，這表明惡意事件的財(cái)務(wù)的不良影響很容易失去控制。GDPR 的罰金在緩慢起步后又有所提高，總罰金較上年激增 113.5%。最值得注意的是，亞馬遜在其 2021 年 7 月的財(cái)報(bào)中宣布了 8.77 億美元的巨額 GDPR 罰金，比此前的記錄高出近 15 倍。隨著消費(fèi)者對(duì)隱私日益重視，穩(wěn)健的安全保護(hù)措施已成為某些公司的一大優(yōu)勢(shì)。思科最近的一項(xiàng)調(diào)查發(fā)現(xiàn)，近 80% 的消費(fèi)者將數(shù)據(jù)保護(hù)納入購(gòu)買(mǎi)決策，并愿意為隱私標(biāo)準(zhǔn)更高的產(chǎn)品或供應(yīng)商支付更多費(fèi)用。

我們所看到的當(dāng)前形勢(shì)

在與英國(guó)政府為期七年的一個(gè)合作項(xiàng)目中，我們幫助他們改變了與公民互動(dòng)以及向公民提供公共服務(wù)的方式，從一開(kāi)始就將信任和安全視為重中之重。該項(xiàng)目將不同的政府網(wǎng)站整合為一個(gè)強(qiáng)大而便利的平臺(tái)，增強(qiáng)了公民體驗(yàn)，并大大縮短了部署周期。重要的是，該平臺(tái)有一個(gè)在線身份認(rèn)證系統(tǒng)提供支持，從而在公民提交服務(wù)申請(qǐng)時(shí)，同時(shí)滿足所有必要的數(shù)據(jù)保護(hù)要求，并尊重個(gè)人的隱私權(quán)。最大限度減少產(chǎn)生負(fù)面結(jié)果的可能性，增強(qiáng)人們對(duì)平臺(tái)的信心，促進(jìn)了該平臺(tái)的迅速普及。

值得關(guān)注的趨勢(shì)

采納：當(dāng)下存在的技術(shù)，正在業(yè)界得到充分利用。

——安全的軟件交付：過(guò)去的一年里，我們觀察到，“軟件供應(yīng)鏈”受到的攻擊顯著增加?！败浖?yīng)鏈”并非軟件本身，而是幫助我們將軟件投入生產(chǎn)的工具、過(guò)程和庫(kù)。美國(guó)白宮甚至發(fā)布了一項(xiàng)關(guān)于網(wǎng)絡(luò)安全的行政令，包括改善供應(yīng)鏈安全的具體指令，如要求所有政府系統(tǒng)都提供軟件“材料清單”。安全軟件交付強(qiáng)調(diào)，安全問(wèn)題人人有責(zé)，這一理念應(yīng)貫穿整 個(gè)軟件生命周期。

分析：受到關(guān)注的技術(shù)，但依賴不同行業(yè)和應(yīng)用場(chǎng)景。

——道德框架：任何決定都有后果。在科技界，隨著 AI 決策開(kāi)始成為主流，倫理學(xué)家們一直在探討道德決策框架，試圖讓決策過(guò)程變得透明和清晰。

預(yù)測(cè)：成熟度欠缺的技術(shù)，可能在未來(lái)幾年產(chǎn)生重大影響。

——量子機(jī)器學(xué)習(xí)：雖然量子機(jī)器學(xué)習(xí)可能是解決復(fù)雜的化學(xué)和材料科學(xué)問(wèn)題的一支重要力量，但也可能在數(shù)據(jù)的倫理使用方面帶來(lái)進(jìn)一步的挑戰(zhàn)。

對(duì)采納者的建議

網(wǎng)絡(luò)安全是一場(chǎng)與對(duì)手的貓鼠游戲。AI 在各企業(yè)中迅速普及，以助力其應(yīng)對(duì)安全威脅，各種各樣的產(chǎn)品正在涌現(xiàn)，以滿足不斷增長(zhǎng)的需求。目的是通過(guò)自動(dòng)化手動(dòng)檢測(cè)的任務(wù)，提供入侵警報(bào)和仔細(xì)檢查網(wǎng)絡(luò)流量等智能功能，以檢測(cè)異常行為、違反政策的情況或機(jī)器人故障，從而創(chuàng)造公平的競(jìng)爭(zhēng)環(huán)境。也許 AI方法最關(guān)鍵之處在于，它們不僅能夠限制受攻擊面和填補(bǔ)漏洞，而且還能夠幫助預(yù)測(cè)未來(lái)可能發(fā)生的攻擊，從而可以提前采用適當(dāng)?shù)娘L(fēng)險(xiǎn)緩解策略。

?AI 不是靈丹妙藥。重要的是要記住，任何用于防御的技術(shù)也可能被攻擊者利用，雖然企業(yè)可能會(huì)從 AI中受益，但它不是靈丹妙藥。企業(yè)需要擯棄將人工智能、機(jī)器學(xué)習(xí)和數(shù)據(jù)導(dǎo)向型工具視為“一體適用”的解決方案。相反，任何工具都需要成為貫穿整個(gè)組織結(jié)構(gòu)的廣泛智能戰(zhàn)略的一部分。例如，機(jī)器學(xué)習(xí)不能孤立地實(shí)現(xiàn)有效的安全性；它需要管理數(shù)據(jù)和模型的生命周期，并反饋結(jié)果。更重要的是，安全問(wèn)題人人有責(zé)。這使得零信任架構(gòu)方法能夠應(yīng)用于細(xì)分現(xiàn)實(shí)網(wǎng)絡(luò)，并以一種安全擴(kuò)展的方式覆蓋安全和數(shù)據(jù)訪問(wèn)原則，根據(jù)需要提供信息；不多不少正好滿足隱私保護(hù)的目的。

采用或構(gòu)建一個(gè)數(shù)據(jù)道德框架，向員工和客戶明確數(shù)據(jù)是如何存儲(chǔ)、使用和保持安全的。我們建議您只保留實(shí)際需要的數(shù)據(jù)，不超過(guò)所需的量?，F(xiàn)代合規(guī)性和隱私法要求審慎的高水平審查，這可以轉(zhuǎn)變?yōu)橐粋€(gè)積極的差異化因素。作為數(shù)據(jù)保留策略和數(shù)據(jù)集構(gòu)建和使用的基礎(chǔ)，強(qiáng)大的數(shù)據(jù)倫理框架也可以在您的整體數(shù)據(jù)戰(zhàn)略中發(fā)揮重要作用。

即使不是一目了然，也總是會(huì)存在偏見(jiàn)，所以要不斷地努力。偏見(jiàn)很難在事后消除，因此，前期處理（包括不公平在內(nèi)的問(wèn)題）至關(guān)重要。重要的是，記錄數(shù)據(jù)的方式要允許對(duì)基于數(shù)據(jù)的行動(dòng)、產(chǎn)品或決策進(jìn)行審計(jì)和分析，以了解其對(duì)特定群體的影響。需要對(duì)數(shù)據(jù)來(lái)源的表述、所提取樣本的人口特征以及所用算法的選擇進(jìn)行具體思考。我們負(fù)責(zé)任的技術(shù)手冊(cè)提供了指導(dǎo)和最佳實(shí)踐，可以協(xié)助實(shí)施這一過(guò)程。

永遠(yuǎn)不要假設(shè)自己的數(shù)據(jù)不存在偏見(jiàn)。我們是人類，偏見(jiàn)無(wú)處不在。

【未完待續(xù)】

xiesc