부동산이나 주식 등을 사고팔 때는 누구든지 가능한 지식을 끌어모으고 정보를 수집해서 가장 합리적인 방향으로 의사 결정을 내릴 거라고 생각한다. 하지만 실제로는 그렇지 않다. 순전히 심리적 요인에 의해 의사결정을 할 때가 많다. 미국 시카고 대학교 리처드 탈러교수는 “인간은 제한된 합리성과 시간 속에 선택을 하는 보통 인간”이라고 설명하면서 의사결정 과정에 중대한 영향을 끼치는 심리적 회계^{mental accounting}가 존재한다는 사실을 밝혀냈다. 이러한 공헌으로 그는 2017년 노벨 경제학상을 받았다. 그가 쓴 책 <넛지^Nudge>는 베스트셀러가 되었다.

심리적 요인에 의해 비합리적 의사 결정을 내림으로써 투자 실패에 이르는 과정을 뇌과학을 통해 설명할 수 있다. 행동재무학 연구에서 가장 흔하게 나타나는 편향 가운데 하나가 성공적인 주식보다 실패한 주식을 더 오래 보유하려는 성향이다. 대다수 투자자는 손해를 본 주식은 계속 갖고 있으려 하고, 이익을 본 주식은 금세 팔아 치우려는 경향이 있다. 이것이 바로 처분효과^{disposition effect}다. 많은 학자는 후회에 대한 두려움 때문에 처분효과가 생긴다고 주장한다. 주가가 떨어져 손해를 보고 있음에도 팔았을 때 왜 이런 주식을 샀을까 후회하는 감정이 밀려오고, 혹시라도 오르게 되면 더욱 후회할 것 같아서 선뜻 팔지 못한다. 주가가 올라 수익이 나고 있으면 좀 더 추이를 보면서 상한가를 기대해야 하는데, 곧 떨어져서 후회하면 어쩌나 염려되어 오래 가지고 있지 못하고 팔아버리는 것이다.

2014년 프리드먼^Frydman 연구팀은 재미있는 실험을 했다. 참가자들에게 자산 가격이 상승한 화면을 보여준 다음, 뇌의 활성도 변화를 기능적 자기공명영상장치^fMRI로 관찰했다. 방법은 먼저 참가자들에게 주식 가격변동 후에 계속 보유할지 매도할지 결정을 묻는다. 결정 후 각기 다른 참가자들의 배쪽 선조체의 활성도 변화를 측정했다. 배쪽 선조체는 보상을 받았을 때 활성화되는 우리 뇌의 부위다.
이 실험에서 참가자들은 큰 처분 효과를 보였다. 가격이 오른 주식을 지나치게 빨리 매도함으로써 큰 이익을 놓친 것이다. 가격이 오른 자산을 매도할 때는 배쪽선조체의 활성이 증가했으나, 가격이 오른 자산을 보유할 때는 증가하지 않았다. 사람들은 가격이 오른 자산을 가지고 있을 때보다 서둘러 팔아 치울 때 더 높은보상을 느낀다. 지나치게 빨리 자산을 매도하고 싶어하는 처분 효과가 나타난 것이다.
이 실험 참가자들에게서는 다른 종류의 인지 오류인재매수 효과^{repurchase effect}도 유의미하게 관찰되었다. 재매수효과란 이전에 손해를 입었던 자산을 다시 사는 경향을 말한다. 자신이 매도한 후 가격이 오른 주식을 다시 매수하거나, 이전에 손실을 보고 팔았던 주식을 또 사들이는 식이다. 앞선 실험처럼 참가자들에게 이전에 구매할 기회가 있었던 주식 가격이 상승하는 화면을 보여주었더니 주식을 소유하지 않은 집단에서 배쪽 선조체의 활성이 감소했다. 활성도가 감소한다는 것은 참가자들이 후회하고 있다는 의미다. 투자 기회를 놓친 참가자들의 후회가 재매수를 부추기는 것이다. 처분 효과와 재매수 효과는 상당히 높은 연관성을 보였는데, 가격이 올랐을 때 재빨리 팔아 치우는 사람이 결국은 더 비싼 가격에 재매수를 한다고 볼 수 있다. 이런 인지 오류로 인해 투자자들은 끊임없이 거래를 하게 됨으로써 시간을 잡아먹고, 투자 수익은 감소하는 것이다.