연산군은 방탕한 놀음으로 세월을 보냈습니다. 이러한 연산군의 사치와 향락이 심해지자 국가 재정은 날로 궁핍해져 갔지만 대신들은 그의 행동을 비판하지 못했습니다. 오히려 연산군의 폭정을 기화로 권신들은 자신들의 이익을 챙기기에 여념이 없었습니다.

그러나 연산군이 국고가 빈 것을 알고 이를 메우기 위해 공신들에게 지급한 공신전을 요구하고, 노비까지 몰수하려 하자 대신들은 더 이상 참을 수 없었습니다. 왕이 향락과 사치에 마음을 빼앗겨 급기야 자신들의 경제 기반까지 몰수하는 것을 더 이상 그냥 지나칠 수 없다고 판단한 것이었습니다. 그들은 막상 왕의 요구가 자신들의 이해관계와 맞물리자 왕의 처사가 부당함을 지적하면서 그동안 못마땅하게 여겨오던 왕의 지나친 향락을 자제해 줄 것을 간청하기 시작했습니다.

하지만 신하들 모두가 연산군에게 반발했던 것은 아니었습니다. 무오사화 이후 조정은 다시 외척 중심의 궁중파와, 의정부 및 육조 중심의 부중파로 갈라져 있었습니다. 따라서 공신전을 소유하고 있던 부중파 관료들은 연산군의 공신전 몰수 의지에 반발하고 있었지만, 궁중파는 일단 왕의 뜻에 따르자는 논리를 펴고 있었습니다.

이러한 대립을 이용하여 정권을 잡으려는 인물이 있었는데 그가 바로 임사홍이었습니다. 그는 일찍이 두 아들을 예종과 성종의 부마로 만든 척신 세력 중의 하나였습니다. 임사홍은 성종 시대에 사림파 신관들에 의해 탄핵을 받아 귀양을 간 적이 있었습니다. 그래서 개인적으로 사림을 싫어한 그는 연산군과 신하들의 대립을 이용해 훈구 세력과 잔여 사림 세력을 일시에 제거하려는 음모를 꾸미기 시작했습니다.

임사홍은 우선 연산군의 비 신씨의 오빠 신수근과 손을 잡고 음모를 꾸미던 끝에 성종의 두 번째 부인이자 연산군의 친모였던 윤씨의 폐비 사건을 들추어내기 시작했습니다. 폐비 윤씨 사건은 성종이 차후에 거론하지 말라는 유명을 남긴 적이 있어 그때까지 아무도 그 사건을 입에 담지 않고 있었습니다. 그러나 임사홍은 이 사건의 내막을 연산군이 알게 될 경우 윤씨의 폐출을 주도했던 훈구 세력과 사림 세력에게 동시에 화를 입힐 수 있다는 계산을 한 것이었습니다.
 
결국 임사홍의 밀고로 윤씨의 폐출 경위를 알게 된 연산군은 엄청난 살인극을 자행하기 시작하였습니다. 연산군은 우선 윤씨 폐출에 관여한 성종의 두 후궁 엄귀인과 정귀인을 궁중 뜰에서 직접 참하고 정씨의 소출인 안양군, 봉안군을 귀양 보내 사사시켰습니다. 그리고 윤씨 폐출을 주도한 인수대비를 머리로 들이받아 부상을 입혀 절명케 했으며, 억울하게 죽은 생모의 넋을 위로하고자 왕비로 추숭하고 성종묘에 배사하려 하였습니다. 이때 연산군의 행동을 감히 막으려는 사람은 없었습니다. 다만 응교 권달수와 이행 두 사람만이 성종 묘에 배사하는 것은 있을 수 없는 일이라고 반론을 펴다가 권달수는 죽임을 당하고 이행은 귀양길에 올랐습니다.

연산군의 행동은 여기서 그치지 않았습니다. 막상 신하들이 자신의 행동을 저지하지 못하리라는 판단을 한 그는 윤씨 폐위에 가담하거나 방관한 사람을 모두 찾아내어 처단하기 시작했습니다. 이 결과 윤씨 폐위와 사사에 찬성했던 윤필상, 이극균, 성준, 이세좌, 권주, 김굉필, 이주 등 10여 명이 사형 당하였고, 이미 죽은 한치형, 한명회, 정창손, 어세겸, 심회, 이파, 정여창, 남효온 등은 부관참시에 처해졌습니다. 이밖에도 홍귀달, 주계군, 심원, 이유녕, 변형량, 이수공, 곽종번, 박한주, 강백진, 최부, 성중엄, 이원, 신징, 심순문, 강형, 김천령, 정인인, 조지서, 정성근, 성경온, 박은, 조의, 강겸, 홍식, 홍상, 김처선 등이 참혹한 화를 입었으며, 이들의 가족 자녀에 이르기까지 연좌시켜 죄를 적용하였습니다.

이처럼 1504년 3월부터 10월까지 7개월에 걸쳐 벌어진 이 갑자사화는 희생자의 규모 뿐 아니라 그 형벌의 잔인함이 무오사화에 비할 바가 아니었습니다. 무오사화는 신진 사림과 훈구 세력 간의 정치 투쟁이었지만, 갑자사화는 왕을 중심으로 한 궁중 세력과 훈구, 사림으로 이루어진 부중 세력의 힘의 대결이었기 때문이었습니다.