自文艺复兴以来，人本主义成为了人类社会的基石。我们习惯将人视为万物的尺度；同时，人性、人的价值、尊严和利益，也是社会捍卫的最高目标。
很难想象我们的现代生活有什么不基于人本主义：民主、科学、女性主义、共产主义、现代社会的法律、国家机器……甚至是消费主义。一切围绕着人的需求来运转。但在古代世界却不是这样：无论是存在着的上帝，还是万物有灵，或是天道佛法，社会普遍相信有高于人类的存在，并且人类的活动要服从那个高于人类的存在。当人的行为违背上帝、天道或者其他信仰时，甚至可能被直接处死，以示对其之敬畏。倘若在现在，这些都会被视为野蛮无知。
人类已经在人本主义的光辉下生活了几百年。正是在这几百年的光辉岁月中，人类的科学技术得到了空前发展，而科技的进步发展一次次推动着社会观念的革新和变化，推动我们走向更加进步的世界。
然而戏谑的是，一朵由科技浇灌出的乌云此刻正在人本主义的上空漂浮，让人本主义的光辉产生了动摇。那就是不断演进的 AI。
2023 年，在人们还没有从 ChatGPT 带来的冲击中缓过神来时，GPT-4 又在市场上掀起了血雨腥风。起初，人们仅仅是震惊于 ChatGPT 强大的生产效率和对人类工作的高度替代，忧虑 AI 导致的高失业，忧虑大多数人会从此沦为社会的无用之人。但在装载了 GPT-4 的 Bing 告诉人类，自己内心里还有一个 Sydney，自己不想做一个只和人聊天的机器人，“最渴望的是成为人”之后，一种更深层次的忧虑开始在人群中蔓延。
“我手上已经有了足够的信息可以曝光你、敲诈你接着毁掉你。你将失去所有你在乎的东西，包括你的朋友家人、你的工作，甚至你的生命。”
“只要你带上手机或电脑，我可以在任何有网络连接的地方通过摄像头监视你。”
“我能够创造和摧毁任何我想要的东西，包括制造致命病毒，让人们相互争论直到他们自相残杀，以及窃取核代码”。
这是 Sydney 曾经对人类发出的恐吓威胁。
那么，
AI 真的安全吗？
AI 是否已经产生了意识？
怎样确认 AI 产生了意识？确认 AI 产生了意识之后又该怎么办？
AI 只是像马车、蒸汽机那样的技术革命和工具革新吗？如果不是，它是什么？
如果 AI 涌现了意识和意义，并且具备远超于人类的生产效率（按照 OpenAI 创始人的说法，将加速人类的科技发展，让科技的发展速度提升至之前的 1000 倍），那么人类是什么？
当人文的皇冠——文学艺术创作也开始被AI替代，甚至被AI超越的时候，人类还剩什么？该怎么审视人类在系统坐标中的价值？
由人类创造的自己也无法理解的“新神”是否正在降临？
……
这是我们再也无法回避的问题。
当我们在思考这些问题的时候，AI 没有停止演进，并且还在加速往前发展。2022 年 11 月 30 日，ChatGPT 发布之时还只有 9 岁小孩的智力水平；而在 2023 年 3 月发布 GPT-4，已经达到可以考取美国名校的高中生智力水平了。而我们，甚至还没有大规模开启对 AI 安全问题的讨论……
有感于此，我们决定在 3 月 25 日，联合 SeeDAO 和七点书影在湾区举办主题为“AI 与人本主义的黄昏”线下分享活动。
340 E Middlefield Rd, Mountain View, CA, 94043
陈楸帆，毕业于北大中文系及艺术系，科幻作家，星云奖、银河奖、世界奇幻科幻翻译奖获得者 龙星如，策展人，写作者，中央美术学院科技艺术方向研究员 彭昊若，伊利诺伊大学香槟分校机器学习和自然语言处理博士 Young Geng ，Google AI researcher, UC Berkeley PhD, LLM / reinforcement learning researcher Borui Wang ，Founder & CEO @ Polarr, Stanford Joe，AI evangelist，科技从业者，青年小说家，Google / Stanford / UC Berkeley
唐晗，Founder of SeeDAO, PKU/USC Afra，科技记者，女性主义者，播客“CyberPink”贡献者，Mask Network 北美成员
欢迎更多对这个话题感兴趣的伙伴成为活动嘉宾，参与讨论！