生成式大模型安全与隐私白皮书( 60 页)

---

目录

1 序言1

2 生成式大模型的发展之路1

2.1.ChatGPT 和GPT4 的前身....1

2.1.1 GPT1 .......1

2.1.2 GPT2 .......4

2.1.3 GPT3 .......5

2.1.4 GPT3.5 ......7

2.1.5 InstructGPT .......8

2.1.6 Google Bert ....10

2.2.ChatGPT 和GPT4 ....11

2.2.1 ChatGPT .....11

2.2.2 GPT4 .......14

2.3.ChatGPT 和GPT4 之后发布的模型.......17

2.3.1 Facebook：LLaMa ....17

2.3.2 Stanford：Alpaca .....18

2.3.3 百度：文心一言.....18

2.3.4 阿里：通义千问.....19

2.3.5 清华：ChatGLM .....19

3 生成式大模型引发的变革20

3.1.应用1：助力人机交互......20

3.2.应用2：助力信息资源管理....20

3.3.应用3：助力科学研究......22

3.4.应用4：助力内容创作......23

4 生成式大模型存在的安全问题24

4.1.生成式大模型的数据安全.....24

4.1.1 生成式大模型使用过程中显式的隐私信息泄露.....24

4.1.2 生成式大模型使用过程中隐式的隐私信息泄露.....24

4.2.生成式大模型的使用规范.....26

4.2.1 生成式大模型被用于虚假和恶意信息/软件编写....27

4.2.2 生成式大模型违反当地法律法规....28

4.2.3 生成式大模型没有预警机制.......29

4.2.4 生成式大模型安全优化不涉及灰色地带....29

4.3.生成式大模型的可信和伦理问题.....30

4.3.1 生成式大模型的可信问题....30

4.3.2 生成式大模型的伦理问题。.......31

4.4.生成式大模型的产权问题.....35

4.4.1 生成式大模型生成作品的著作权问题......35

4.4.2 生成式大模型生成作品的侵权......36

4.4.3 生成式大模型生成作品的维权......36

4.5.生成式大模型的模型安全.....37

4.5.1 模型窃取攻击.......37

4.5.2 数据窃取攻击.......39

4.5.3 对抗攻击.....39

4.5.4 后门攻击.....40

4.5.5 Prompt 攻击.......41

4.5.6 数据投毒.....42

5 生成式大模型存在的安全与隐私建议43

5.1.保护数据隐私的建议.......43

5.2.模型安全问题的建议.......45

5.3.模型合规性问题的建议......45

6 AGI 的展望和安全规划46