不到十年前，“設(shè)計”這個詞主要與美學(xué)、調(diào)色板和臭名昭著的 Comic Sans 字體相關(guān)聯(lián)。然而，在幾年的時間里，設(shè)計已經(jīng)從大多數(shù)人并不真正關(guān)心的東西變成了對我們?nèi)粘Ｉ畹膹姶笥绊懥ΑＴ絹碓蕉嗟臅?、設(shè)計會議、電視節(jié)目和紀(jì)錄片探討了設(shè)計的破壞性影響或其解決社會、生態(tài)或經(jīng)濟問題的能力。盡管如此，我們并不總是很清楚我們可以用設(shè)計方法解決哪些問題，以及設(shè)計師可以為解決社會問題做出哪些貢獻，并在一定程度上解決設(shè)計本身造成的一些問題。

國外的一部紀(jì)錄片《社會困境》從本質(zhì)上揭示了為什么你從前一分鐘在谷歌上搜索健康快餐到下一分鐘在你的 Instagram 提要上尋找食品廣告。英國反烏托邦系列，黑鏡設(shè)想了我們關(guān)于技術(shù)的最糟糕的噩夢。對日常數(shù)字體驗如何影響我們生活的擔(dān)憂比以往任何時候都更加強烈。

技術(shù)與設(shè)計的關(guān)系

用戶體驗和以人為本的設(shè)計理念席卷了商業(yè)世界，但這種力量是有代價的。得出的結(jié)論是，大多數(shù)數(shù)字產(chǎn)品背后都有良好的意圖——改善人類生活質(zhì)量。然而，這些由杰出的程序員和設(shè)計師創(chuàng)造的善意產(chǎn)品，已經(jīng)被不斷擴展的算法和企業(yè)利潤最大化所武裝。毫無疑問，隨著數(shù)據(jù)驅(qū)動系統(tǒng)成為我們生活中越來越重要的一部分，當(dāng)它們失敗時，我們也會注意到更多。這種決定論的敘述完全忽略了這樣一個事實，即技術(shù)是社會的產(chǎn)物和反映，并且是復(fù)雜的社會經(jīng)濟系統(tǒng)的一部分。技術(shù)、設(shè)計和社會不斷相互影響，它們之間的相互作用是一個三向的過程。

我們中的許多人認(rèn)為技術(shù)是中立的，沒有種族主義、性別歧視或其他困擾人類決策的“主義”。但事實是，社會等級制度，就像種族主義一樣，嵌入在大多數(shù)產(chǎn)品和技術(shù)的邏輯層中。社交媒體過濾可能是工作中數(shù)據(jù)驅(qū)動系統(tǒng)最常見的例子之一。這是 微博 用朋友的名字自動標(biāo)記你的照片的時候?；蛘?，考慮決定向您展示哪些新聞和廣告的應(yīng)用程序，以增加您點擊的機會。

技術(shù)有偏見

社會困境最小化了這樣一個現(xiàn)實，即人類設(shè)計的方式不僅會復(fù)制而且會放大現(xiàn)有的偏見，因為首先創(chuàng)造它們的設(shè)計師有自己的偏見。

一個令人不安的例子是 Beauty AI。2016 年首次使用最先進的機器學(xué)習(xí)技術(shù)由機器人評判的選美比賽。它旨在根據(jù)皺紋、面部對稱性、膚色、性別、年齡組、和種族。人們訓(xùn)練深度學(xué)習(xí)軟件使用預(yù)先標(biāo)記的圖像對美進行編碼。之后，根據(jù)算法嵌入的偏好對參賽者的照片進行評判，但結(jié)果并不那么樂觀。雖然入圍者跨越不同年齡層，但都是白種人，而且只有一位入圍者的膚色較深。

另一個著名的案例是 Airbnb 早期發(fā)生的事情。設(shè)計師想讓主人感到非常舒適，因為他們邀請人們進入他們的家。這在當(dāng)時是一件非常新鮮的事情。 設(shè)計決策主要是為了向主人提供盡可能多的信息，讓他們對允許客人進入他們的家感到安全和快樂。他們把名字和照片放在平臺的前面和中心。此外，當(dāng)時的主人可以隨時拒絕客人，而無需解釋原因。這一決定導(dǎo)致了大量關(guān)于歧視的報道。名字聽起來像外國的人和黑人更有可能被拒絕。這是設(shè)計團隊完全沒有預(yù)料到的。這個例子可以真正展示如何以你意想不到的方式使用設(shè)計。

好的設(shè)計自然不合乎道德

好的設(shè)計可以滿足用戶的需求，但它自然不合乎道德。棘手的是，好的產(chǎn)品和服務(wù)——就像 Airbnb 的案例一樣——可以非常方便和令人愉悅，在它們失控或我們個人受到影響之前，我們可能不會感受到任何負(fù)面影響。 好的設(shè)計可能會產(chǎn)生意想不到的負(fù)面后果和問題。例如，在用戶研究或不道德地收集和使用數(shù)據(jù)中，邊緣化或弱勢群體的代表性不足。

多層數(shù)據(jù)

隨著社會對這些新技術(shù)對我們生活的社會、政治和情感領(lǐng)域的不可預(yù)見后果的認(rèn)識不斷提高，越來越多的人開始對大型科技公司持懷疑態(tài)度。社會困境很好地突出了定向廣告如何利用我們的心理脆弱性來操縱我們。然而，這部紀(jì)錄片只關(guān)注社交媒體的心理方面及其成癮效應(yīng)。它未能探索通過這些新開發(fā)的技術(shù)和使用這些類似的、不道德的商業(yè)模式的產(chǎn)品而建立的資本主義形式。

技術(shù)和隱私

監(jiān)視資本主義時代，一位專家對數(shù)字時代的社會學(xué)分析，描述了谷歌和 Facebook 等全球科技公司如何說服我們放棄隱私。收集的信息不僅用于預(yù)測我們的行為，還用于影響和修改它。不用說，這對民主和自由造成了災(zāi)難性的后果。我們喜歡認(rèn)為科技公司擁有的關(guān)于我們的唯一信息就是我們提供給他們的信息。真正發(fā)生的是，我們故意提供給他們的信息是他們收集的關(guān)于我們的最不重要的信息。 以不道德的方式工作的科技公司從我們在不知不覺中留下的數(shù)字痕跡中檢索到大量信息。但他們僅使用收集到的一些關(guān)于我們的數(shù)據(jù)來改善服務(wù)或用戶體驗。公司使用我們的大部分?jǐn)?shù)據(jù)來分析人類行為模式，以創(chuàng)建預(yù)測數(shù)據(jù)模型并了解具有某些特征的人通常如何行為和思考。

在最簡單的層面上，他們可以預(yù)測您現(xiàn)在或以后可能會做什么，并將這些預(yù)測出售給企業(yè)。那么，這有什么問題呢？你可能會說“但我喜歡那些有針對性的廣告”或 “我沒有什么可隱瞞的，所以我不在乎他們拿什么，除此之外，他們已經(jīng)知道了我的一切?！?這些陳述中的每一個都是對實際發(fā)生的事情的深刻誤解。問題的根源不是針對性的廣告或個性化的用戶體驗。在大多數(shù)情況下，算法都帶有種族和性別偏見。而且我們現(xiàn)在知道，預(yù)測模型還可以以繞過我們意識的方式影響離線、現(xiàn)實世界的情緒和行為。

用戶體驗中的道德規(guī)范

當(dāng)我們說我們有道德時，我們是什么意思？一般來說，倫理學(xué)是一門廣泛的學(xué)科。在哲學(xué)意義上，它研究什么是對的，什么是錯的。應(yīng)用倫理是當(dāng)我們應(yīng)用這些關(guān)于道德的概念和思想時。

我們可以將設(shè)計和研究倫理視為相互聯(lián)系和交織的不同學(xué)科。設(shè)計倫理著眼于使用設(shè)計并與之互動的人們的福利。它還涉及人們?nèi)绾问褂没驗E用設(shè)計的長期影響。另一方面，研究倫理關(guān)注參與研究活動的人們的福利。

成功指標(biāo)的隧道愿景

在國外“四大”——谷歌、亞馬遜、Facebook和蘋果——主導(dǎo)的時代，他們可以親身體驗一些公司如何偷工減料或遵循可能對人們造成真正傷害的不道德做法。

許多產(chǎn)品團隊都在追隨他們的腳步。在某些情況下，參與者會故意或無意地欺騙他們數(shù)據(jù)的使用目的。當(dāng)團隊缺乏堅實的設(shè)計和研究倫理基礎(chǔ)時，通常會出現(xiàn)這些趨勢?；蛘?，另一種情況是設(shè)計師和研究人員必須做出專門服務(wù)于業(yè)務(wù)目標(biāo)的決策。

通常作為設(shè)計師或研究人員，我們對這些不道德的決定沒有權(quán)力。即使我們想設(shè)計一個好的體驗，我們也可能無意中造成傷害。好的和令人愉快的設(shè)計的一些好處可能伴隨著不可預(yù)見的權(quán)衡。

我們可以讓用戶沉迷于我們創(chuàng)造的產(chǎn)品和服務(wù)。我們可以讓他們因為我們自己的偏見而被邊緣化，或者因為通知而變得超負(fù)荷或壓力。此外，欺凌和仇恨言論也可能是我們設(shè)計的結(jié)果。

現(xiàn)實情況是，在快節(jié)奏的環(huán)境中，我們通常沒有時間考慮設(shè)計倫理。在成功指標(biāo)上很容易獲得隧道視野。當(dāng)我們專注于設(shè)計的短期成功而不是長期視角而變得短板時。在瞬息萬變的環(huán)境中，我們可能會陷入只依賴定量數(shù)據(jù)和指標(biāo)的陷阱。并且設(shè)計只是為了改進這些指標(biāo)。那么，您可以做些什么來設(shè)計良好的體驗，同時確保做出合乎道德的決策呢？

探索設(shè)計師的困境

作為設(shè)計師，我們正在解決問題，讓人們的生活更輕松。但是，重要的是要了解我們的設(shè)計不是中立的，但實際上，它本質(zhì)上是有偏見的。將人稱為用戶為設(shè)計師創(chuàng)造了一個舒適區(qū)和一個矛盾的事實。我們實際上不能關(guān)心與我們的設(shè)計互動的每一個人，但同情他們的問題是我們工作的一部分。雖然，我認(rèn)為用戶這個詞本身不可避免地會造成我們應(yīng)該關(guān)心的人的無知和疏離。它通過將它們減少為我們用來改進產(chǎn)品或服務(wù)的數(shù)字?jǐn)?shù)據(jù)的痕跡，從而消除它們的復(fù)雜性。這從根本上強化了人們是最重要的利潤來源的說法。

通過承認(rèn)即使是我們的設(shè)計詞匯也會影響我們的思維方式，我們可以更接近道德設(shè)計。認(rèn)為我們的設(shè)計決策與我們的缺陷無關(guān)，這讓我們感覺更好，但實際上，它們永遠(yuǎn)是我們的延伸。 為了真正通過設(shè)計改善人們的生活，我們需要提出一些棘手的問題。我們需要在他們正在創(chuàng)建和加強的系統(tǒng)中詢問他們。這不應(yīng)該只是 UX 團隊的責(zé)任。這是每個人的責(zé)任，因此這些對話也需要在領(lǐng)導(dǎo)層進行。通過這種方式，我們可以避免陷入必須扭轉(zhuǎn)某些決定或花費大量時間返工的情況。

道德設(shè)計的步驟

對此進行規(guī)劃是最重要的部分——因此請嘗試提前開始對話：我們的設(shè)計如何被濫用或利用？最壞的結(jié)果是什么？哪些潛在的權(quán)衡可能會對使用我們產(chǎn)品或服務(wù)的人產(chǎn)生負(fù)面影響？提出難題將幫助您為以下開始的實際工作做好準(zhǔn)備：

• 做定性研究。出去見見真人。
• 讓參與者設(shè)計或共同設(shè)計。讓其他人參與設(shè)計過程，尤其是當(dāng)它是一個敏感話題時。
• 想想社會中可能最脆弱的人。他們通常是邊緣化的人，他們對服務(wù)和產(chǎn)品的選擇有限。出于這個原因，他們往往是受到設(shè)計負(fù)面影響的人?？紤]殘疾或無障礙需求。并倡導(dǎo)重申僅考慮特定人口群體而不涉及邊緣化人群的設(shè)計。
• 花點時間對系統(tǒng)性問題進行自我教育。盡管系統(tǒng)層面的問題比設(shè)計本身更大，但我們?nèi)匀皇莿?chuàng)造和加強它們的系統(tǒng)的一部分。設(shè)計過程通常復(fù)制存在于設(shè)計世界之外的過程和價值。
• 招募一個多元化的團隊，在設(shè)計過程中有一個平衡的代表。如果我們有一群來自相同背景的設(shè)計師，他們都有相似的經(jīng)歷和價值觀。你會無意識地將你的偏見轉(zhuǎn)移到你的設(shè)計中。在你的研究過程中也包括不同的人。

我們能用設(shè)計解決社會問題嗎？

在設(shè)計機構(gòu)，我們決定有意識地將我們的知識和創(chuàng)造力導(dǎo)向積極的影響。當(dāng)我們重新審視我們作為一家公司的使命時，我們做出了一個集體決定，專注于通過我們的設(shè)計決策從整體上（和道德上）幫助用戶。

我們可以從中學(xué)到什么

我們已經(jīng)開始質(zhì)疑自己設(shè)計產(chǎn)品的后果，以及我們應(yīng)該如何運用我們的影響力。已經(jīng)出現(xiàn)了應(yīng)用設(shè)計方法的新框架和方法，以解決復(fù)雜的社會問題，并消除不道德設(shè)計本身造成的一些問題。這種轉(zhuǎn)變有許多不同的名稱——“循環(huán)設(shè)計”、“社會設(shè)計”、“影響設(shè)計”、“社會創(chuàng)新設(shè)計”和“倫理設(shè)計”等等。所有這些想法都有自己的定義，但這里的措辭是不太重要的部分。正是這種可能性和空間讓我們能夠使用設(shè)計來應(yīng)對社會問題。是思考和探索。它在看例子。它使事情變得有意義。它超越了當(dāng)前將設(shè)計思維應(yīng)用于社會問題的趨勢。它是破壞傷害人們的系統(tǒng)性機制，以創(chuàng)造替代、平等、包容和道德的未來。

我渴望并渴望成為那些“道德、有影響力、循環(huán)、社會設(shè)計師”中的一員。 我不確定如何做，但我知道我確實有選擇。因為我們比以往任何時候都更有優(yōu)勢，現(xiàn)在輪到我們創(chuàng)造新的原則了。

在 設(shè)計 繼續(xù)學(xué)習(xí)

通過我們關(guān)于UX 在可持續(xù)發(fā)展時代的作用的文章跟進循環(huán)設(shè)計的主題，或者閱讀通過為殘疾人設(shè)計應(yīng)用程序來做好 UX 的示例。

正在尋找合適的用戶體驗機構(gòu)？

網(wǎng)站設(shè)計機構(gòu)-設(shè)計已成功與全國甚至國外多家公司合作。 此刻我們能為您做些什么嗎？與我們聯(lián)系，讓我們討論您當(dāng)前的挑戰(zhàn)。 我們的設(shè)計專家很樂意為用戶體驗策略、產(chǎn)品和用戶研究或用戶體驗/用戶界面設(shè)計提供幫助。