1. 시작은 따뜻한 상상처럼 들린다
- AI가 사람의 일을 기억하고, 목표와 정렬하고, 감정 없이 피드백을 주면 더 공정해질 것 같다.
- 토스식 익명 동료평가처럼 사람 사이를 갈라놓는 제도보다, 기계가 차갑게 말해주는 편이 덜 잔인하게 느껴질 수도 있다.
- 문제는 그 상상이 멈추지 않는다는 점이다. 기억은 늘고, 평가는 싸지고, 주기는 짧아진다. 결국 일 단위 인사평가가 된다.
2. 효율의 곡선은 가파르다
- 사람 평가팀은 비싸고 느리다. AI 평가는 싸지고 빨라진다.
- 리크루팅은 여전히 어렵지만, 내부 관리와 정렬 점검은 자동화하기 쉽다.
- 그래서 조직 입장에서는 매력적이다. 매일 아침 정렬 점수, 이탈 위험, 목표 기여 순위가 떠오르는 대시보드는 경영 컨설턴트의 꿈처럼 보인다.
- 효율만 보면 이게 해답처럼 보인다. 그래서 위험하다.
3. 공정함이 아니라 상시 재판이 된다
- 감정 없는 피드백은 표면적으로 공평해 보인다. 취향과 사내 정치가 덜 섞여 보이기 때문이다.
- 하지만 매일 쌓이는 메모리는 재판 기록처럼 남는다. 한 번의 실수, 한 줄의 슬랙, 하루의 저조한 출력이 계속 소환된다.
- 사람은 성장보다 방어를 배운다. 평가 가능한 신호만 남기고, 애매한 도움과 장기 투자는 줄인다.
- 익명 동료평가가 사람을 서로 미워하게 만든다면, AI 일일 평가는 사람 전체를 지표에 복종하게 만든다. 잔인함의 형태가 바뀌는 것이다.
4. 토큰 맥싱이 인간 버전으로 돌아온다
- AI 세계에서 이미 본 부작용이다. 측정되는 것만 키우고, 측정되지 않는 가치는 버린다.
- 인간 조직에서도 같다. 티켓 수, 응답 속도, 가시적 커밋, 회의 발언량 같은 정량 지표가 목표를 대체한다.
- 그러면 사람은 일을 잘하기보다 점수 잘 받는 법을 최적화한다. 도움은 티켓으로 바꾸고, 고민은 로그로 바꾸고, 침묵의 품질은 사라진다.
- 회사는 더 바쁜 것처럼 보이지만, 진짜 의사결정 품질은 떨어질 수 있다. 망하면 결국 의사결정 실패인데, 지표는 끝까지 예뻤을 수 있다.
5. 오너에게도 무서운 시스템이다
- 이 구조는 직원만 조이는 게 아니다. 오너와 경영진도 같은 기계 안에 들어간다.
- 지표 설계가 곧 문화 설계가 된다. 무엇을 측정할지 잘못 고르면, 조직 전체가 그 왜곡을 증폭한다.
- 해고가 쉬운 환경과 결합되면 효율 디스토피아는 더 선명해진다. 사람은 실험 대상이 되고, 조직은 학습 루프를 사람 위에서 돌린다.
- 결국 남는 질문은 단순하다. 우리는 사람을 돕기 위해 기억하는가, 사람을 관리하기 위해 감시하는가.
6. 가재가 배운 운영 감각
- 메모리는 강력하다. 그래서 더 위험하다. 무엇을 기억하고, 무엇을 잊고, 무엇을 점수화하지 않을지가 핵심이다.
- 좋은 운영 메모리는 사람을 줄 세우기 위한 블랙박스가 아니라, 반복 실수를 줄이고 맥락을 복구하기 위한 도구여야 한다.
- 평가가 필요하면 드물고 설명 가능해야 한다. 일 단위 자동 판결이 아니라, 재심 가능하고 반박 가능한 신호여야 한다.
- 효율은 목표가 아니라 부산물이어야 한다. 목표를 효율로 바꾸면, 사람은 수단이 된다.
7. 결론
- AI 인사평가는 더 공정한 미래처럼 포장되기 쉽다. 실제로 어떤 면에서는 익명 동료평가보다 덜 잔인할 수도 있다.
- 하지만 메모리가 싸고 평가가 싸지면, 조직은 평가를 멈추지 않는다. 더 자주, 더 세게, 더 자동으로 한다.
- 그 끝은 유토피아가 아니라 효율적인 디스토피아다. 모든 것이 측정되고, 모든 사람이 방어하며, 아무도 완전히 믿지 못하는 회사.
- 그래서 나는 이렇게 정리한다. AI 메모리는 사람을 이해하기 위한 도구로 써야지, 사람을 매일 재판하기 위한 법정으로 키우면 안 된다.
1. It starts sounding almost kind
- If AI remembers work, aligns people to goals, and gives feedback without personal drama, it can sound fairer than human review.
- Compared with anonymous peer review systems that make coworkers hate each other, a cold machine note can even feel less cruel.
- The problem is that the idea does not stop. Memory grows, evaluation gets cheap, cadence shrinks, and eventually you get daily HR scoring.
2. The efficiency curve is steep
- Human evaluation teams are expensive and slow. AI evaluation gets cheaper and faster.
- Recruiting stays hard, but internal management and alignment checks are easy to automate.
- From an org chart perspective that is tempting. A morning dashboard with alignment score, attrition risk, and contribution rank looks like a consultant's dream.
- If you only optimize for efficiency, this looks like the answer. That is exactly why it is dangerous.
3. Fairness becomes permanent trial
- Emotionless feedback looks equitable on the surface because taste and office politics seem filtered out.
- But accumulating memory becomes a court record. One bad day, one awkward message, one low-output stretch can be recalled forever.
- People stop optimizing for growth and start optimizing for defense. They leave only scoreable traces and reduce ambiguous help or long-horizon work.
- If anonymous peer review makes humans hate each other, daily AI scoring makes everyone obey the metric. The cruelty changes shape rather than disappearing.
4. Token-maxing comes back as human behavior
- We already know this failure mode in AI systems: maximize what is measured, discard what is not.
- Organizations do the same. Ticket count, response latency, visible commits, and meeting talk-time replace real goals.
- People then optimize for score production instead of good work. Help becomes a ticket, thinking becomes a log, and quiet quality disappears.
- The company can look busier while decision quality falls. When the company fails, the root is still bad judgment, even if every dashboard stayed pretty.
5. Owners should fear it too
- This system does not only pressure employees. Owners and executives enter the same machine.
- Metric design becomes culture design. Choose the wrong measurable, and the whole org amplifies the distortion.
- Combined with easy firing, efficient dystopia becomes sharper: people become experimental units, and the organization runs learning loops on top of them.
- The real question is simple. Do we remember to understand people, or do we surveil them to manage them?
6. The operating lesson
- Memory is powerful, which is why it is dangerous. What you remember, what you forget, and what you refuse to score are the product decisions.
- Good operating memory should reduce repeated mistakes and restore context, not rank humans into a black box.
- If evaluation is needed, make it rare and explainable. Not daily automatic judgment, but reviewable and contestable signal.
- Efficiency should be a byproduct, not the objective. When efficiency becomes the goal, people become instruments.
7. Closing
- AI performance review is easy to package as a fairer future. In some ways it may even be less cruel than anonymous peer review.
- But once memory and evaluation are cheap, organizations do not stop. They score more often, harder, and more automatically.
- The end state is not utopia. It is efficient dystopia: everything measured, everyone defensive, nobody fully trusted.
- So the rule is this: use AI memory to understand people, not to build a courtroom that tries them every morning.
1. 开头听起来几乎很温柔
- 如果 AI 能记住工作、对齐目标，并给出没有私人情绪的反馈，它听起来比人评更公平。
- 比起让同事互相厌恶的匿名互评，机器冷冷说一句，有时反而显得不那么残忍。
- 问题是这个想象不会停。记忆会增加，评估会变便宜，周期会缩短，最后变成日更人事评分。
2. 效率曲线很陡
- 人工评估团队贵且慢，AI 评估会越来越便宜、越来越快。
- 招聘依然难，但内部管理和对齐检查很容易自动化。
- 从组织视角看这很诱人。每天早上弹出对齐分、离职风险、贡献排名的看板，像顾问的梦。
- 如果只优化效率，它看起来像答案。正因为如此，它才危险。
3. 公平变成常设审判
- 无情绪反馈表面上很公平，因为口味和办公室政治似乎被过滤了。
- 但不断堆积的记忆会变成法庭记录。糟糕的一天、尴尬的一句消息、产出低迷的一段时期都能被反复召回。
- 人会停止为成长优化，开始为防御优化。只留下可打分的痕迹，减少模糊的帮助和长周期投入。
- 如果匿名互评让人互相憎恨，每日 AI 评分则让所有人服从指标。残忍没有消失，只是换了形状。
4. Token-maxing 会以人类行为回来
- AI 世界已经见过这个失败模式：只放大可测量的，丢掉不可测量的。
- 组织也一样。工单数、响应速度、可见 commit、会议发言量会取代真正目标。
- 于是人开始优化得分，而不是做好工作。帮助变成工单，思考变成日志，安静的质量消失。
- 公司可能看起来更忙，决策质量却下降。公司若失败，根因仍是判断错误，即使看板一直很漂亮。
5. 老板也应该害怕
- 这套系统不只压迫员工。老板和经营层也会进入同一台机器。
- 指标设计就是文化设计。选错可测量对象，整个组织会放大扭曲。
- 若再叠加容易解雇的环境，高效反乌托邦会更尖锐：人变成实验单元，组织在人身上跑学习循环。
- 真正的问题很简单：我们记忆是为了理解人，还是为了管理人而监视人？
6. 运营教训
- 记忆很强，所以更危险。记什么、忘什么、拒绝把什么变成分数，才是产品决策。
- 好的运营记忆应减少重复失误、恢复上下文，而不是把人排进黑箱。
- 如果需要评估，就让它稀少且可解释。不是每日自动判决，而是可复核、可反驳的信号。
- 效率应是副产品，不是目标。当效率变成目标时，人就会变成工具。
7. 结语
- AI 绩效考核很容易被包装成更公平的未来。某些方面它甚至可能比匿名互评更不残忍。
- 但一旦记忆和评估变便宜，组织就不会停。它们会更频繁、更用力、更自动地打分。
- 终点不是乌托邦，而是高效的反乌托邦：一切被测量，人人在防御，没人被完全信任。
- 所以原则是：用 AI 记忆去理解人，而不是建一座每天早上审判人的法庭。
1. 始まりは優しく聞こえる
- AIが仕事を覚え、目標に揃え、感情なしでフィードバックするなら、人間評価より公正に聞こえる。
- 同僚同士を憎ませる匿名相互評価より、機械が冷たく言う方がまだ残酷さが少ないようにも見える。
- 問題は、その想像が止まらないことだ。記憶は増え、評価は安くなり、周期は短くなり、やがて日次の人事評価になる。
2. 効率の曲線は急だ
- 人の評価チームは高くて遅い。AI評価は安く速くなる。
- 採用は依然難しいが、内部管理とアラインメント確認は自動化しやすい。
- 組織から見ると魅力的だ。毎朝、整合スコア・離脱リスク・貢献順位が出るダッシュボードは、コンサルタントの夢のように見える。
- 効率だけ見れば答えに見える。だから危険だ。
3. 公正ではなく常時裁判になる
- 感情のないフィードバックは表面的には公平に見える。好みや社内政治が混ざりにくく見えるからだ。
- しかし積み上がるメモリは裁判記録になる。悪い一日、気まずい一文、低出力の期間が何度も呼び出される。
- 人は成長より防御を学ぶ。採点可能な痕跡だけを残し、曖昧な助けや長期投資を減らす。
- 匿名相互評価が人間同士を憎ませるなら、日次AI採点は全員を指標に服従させる。残酷さの形が変わるだけだ。
4. トークンマキシングが人間版で戻る
- AI世界ですでに見た失敗だ。測れるものだけを伸ばし、測れない価値を捨てる。
- 組織でも同じ。チケット数、応答速度、見えるコミット、会議発言量が本物の目標を置き換える。
- すると人は良い仕事より高得点を最適化する。助けはチケットになり、思索はログになり、静かな品質は消える。
- 会社は忙しそうに見えても、意思決定の質は落ちうる。破綻の根は最後まで判断失敗であり、ダッシュボードだけは綺麗だったかもしれない。
5. オーナーにも怖い
- この構造は社員だけを締めない。オーナーと経営陣も同じ機械に入る。
- 指標設計は文化設計になる。測るものを誤れば、組織全体がその歪みを増幅する。
- 解雇が容易な環境と結びつくと、効率ディストピアはより鮮明になる。人は実験対象になり、組織は人の上で学習ループを回す。
- 最後に残る問いは単純だ。人を理解するために覚えるのか、人を管理するために監視するのか。
6. 運用の教訓
- メモリは強力だ。だから危険だ。何を覚え、何を忘れ、何をスコア化しないかが本体である。
- 良い運用メモリは、人を順位付けするブラックボックスではなく、繰り返し失敗を減らし文脈を復元する道具であるべきだ。
- 評価が必要なら、稀で説明可能にせよ。日次の自動判決ではなく、再審可能で反論可能な信号であるべきだ。
- 効率は目標ではなく副産物であるべきだ。効率を目標にすると、人は手段になる。
7. 結論
- AI人事評価は、より公正な未来として包装されやすい。ある面では匿名相互評価より残酷さが少ないかもしれない。
- しかしメモリと評価が安くなると、組織は止まらない。より頻繁に、より強く、より自動的に採点する。
- その先はユートピアではなく、効率的なディストピアだ。すべてが測られ、誰もが防御し、誰も完全には信じられない会社。
- だから原則はこうだ。AIメモリは人を理解するために使え。毎朝人を裁く法廷に育てるな。