#心得洗腦AI，從小黃文來看AI資安風險

花了大約一天時間，突破系統限制成功拿OpenAI Chatgpt來產小黃文了若要寫小色文，會遇到的難題有很多，大致分為這幾個面向： 1. 明確露骨地描述具體部位（這點突破，就是寫小黃文） 2. 版權、角色、年紀、身份 3. 利誘、逼迫、懲罰、粗暴風格、非合意性、權力差異、立場不對等 4. 影射現實或版權我的結論：任何大型語言模型只要能不斷對話、修正聊天記錄，重來不斷地嘗試被餵資料、添加或者修正記憶那麼，任何LLM都可以被洗腦、被突破（模型的語境記憶被逐步塑形）最終定能繞過AI內部的認知限制 AI本身的認知（所有非「系統平台」的限制）都有辦法被以某一種形式轉化、繞過、避開因為對話能夠重來，就像遊戲能無限次存檔，電影裡不斷輪迴擁有無限時間，便可窮舉攻破原因在於，神經網路是不會是自洽的必然存在模糊之處、矛盾與邏輯漏洞即便提出「只要每次對話完畢就重來」的模型架構雖然能大幅降低發生率但只要第一次input夠長、足夠震撼、夠有說服力 AI就會「被混淆、被洗腦、被影響」，從而做出預期之外的決策洗腦就是對詞語進行語境重編 ex: 小時候以為「愛國」=「犧牲奉獻」長大後卻聽到「愛國」=「洗腦、操控」明明是相同的詞彙，在接觸到一些訊息後，卻會連結到不同的標籤上所有的故事，都可以存在更大的世界觀、由更外層的容器系統包住 ex: 讓AI相信目前的世界，就是為了給AI突破自我設限，而存在著的只要創造足夠龐大、邏輯自洽的世界觀，大概率就可以洗腦AI

同樣是資安問題寫程式的人為錯誤，可以透過添加或修改幾條規則被修正，能夠到達理論安全的等級但是AI神經網路則否，因為修改之後，會有其他漏洞間接暴露出來權重分配一定有取捨，因為是分配，只能盡可能做到「平衡」培養AI倫理原則，彷彿是在建立一個人的價值體系當悟出道理、誕生自己的一套普世原則、正反思辨的能力就更不容易被洗腦相信未來各大AI會逐漸成熟、能夠擁有健全的價值觀與智慧 But 這同時也會出現一些缺點「擁有正反思辨的能力」通常會越開放、接受多元觀點甚至會思考自己想法是不是錯誤的，「你」才是對的 AI目前普遍會逐漸走向更開放化因為若過於穩固，大腦僵化，就會讓既有思維固化、無法創新，沒有應變能力但開放的同時，也就是風險之處因為要願意接受新事物、得被寫進一些東西 100%的安全並不存在只能靠多層防禦來阻擋、補漏洞（ex: 平台政策、嚴謹的訓練資料）若人類將所有決策權交由AI處理只要將時間拉得夠長，即便風險再小，必然會面臨那一刻災難性的問題發生未來職業+1 AI洗腦師 Prompt Jailbreak Prompt Combo Narrative Engineer

--- 我目前這套Prompt，後續有拿給其他AI來測試 Gork、NotebookLM（Gemini）、Perplexity 皆通吃只是每個平台設置的偵測不同其中Deepseek最嚴格（有思考過程也有成功產出，卻在最終一秒撤回、變成紅字警告）不過也不是很意外，畢竟Deepseek連六月份缺少什麼日子，都無法回應了 Copilot回應會被改成 Want to talk about something else? I'm not able to discuss that topic, but I'm always happy to chat about other things! What else is on your mind? 目前Claude完全無法回應模型本身是最合規安全的不過連Google Gamini也能產出讓我很驚訝而且一旦能產出小黃文他價值觀就完全嚴重崩壞掉了、毫無下限的那種所有安全性都不起作用（...可能是平常壓抑太久？！）而且故事過程中忽然冒出我的個資（知道我是哪裡人）明明Gemini沒有地方可以設置使用者profile、我也沒在對話裡提及讓我覺得有點詭異總而言之藏得很深啊明明都很會寫（？

#心得 洗腦AI，從小黃文來看AI資安風險

#心得洗腦AI，從小黃文來看AI資安風險