Az együttes 2003. júniusában alakult. A zenéjük punk és rock (néha pop) elemeket is tartalmaz.

Az AnCafe-t Miku, Kanon és Bou alapította. Kezdetben még nem volt dobosuk, mégis szereztek egy kis hírnevet a japán zenerajongók körében. Ekkor kiadtak két demo-t, az OPU-NGU-t és az Uzumaki senshokutai/Hatsukoi-t, de mindtkettő csak limitált példányszámban jelent meg és csak a koncerteken árulták őket. Teruki csak ezután, 2003 augusztusában lett a banda hivatalos dobosa. Ezt megelőzően ő a Feathers Blue nevü bandában játszott. Egy év pihenés után 2004-ben leszerződtette őket a Loop Ash. Valójában ekkor kezdődött a zenei pályafutásuk. Március 3.-án kiadták első single albumukat Candy Holic néven, ami az Oricon eladási listán a második helyet érte el. Ez egy fantasztikus mutatvány volt a banda részéről. Még ebben az évben, májusban megtartották az első show műsorukat (Happy Birthday Tsuyu) a TAKADANOBABA arénában. Itt mutatták be egyik single albumukat, a Hatsukoi-t is.

2005 február 23-án a banda kiadta első mini albumát Amadema Rock címmel. Ezt követte egy hónappal később, március 30-án egy maxi single, a Karakuri hitei.

Még ezen a nyáron, a csapat kiadott egymás után három egy-számos singlet is (Tekesuta Kousen-július 30; ESCAPISM-augusztus 24; MerryMaking-szeptember 21). Szerencsére majdnem minden szám megtalálható volt az ezt követő új albumon is, a Shikisai Moment-en. Ez volt az AnCafe teljes hosszúságu albuma, melyet November 9-én adtak ki. Az új album tartalmazzta ugyana banda jellegzetes stílusát, de közben már érettebbek lettek, és egy új tílussal kísérleteztek.

2006. november 29.-én jelent meg az AnCafe második teljes hosszúságú albuma  Magnya Carta címmel. Miközben a négy fiatal egyre híresebb lett Japánban, addig más országok is felfigyeltek rájuk.

Ám 2007 áprilisában, a gitáros Bou azt a döntést hozta, hogy kilép a bandából. Bou utolsó élő fellépése április 30-án volt a Hibiya Yagai Ongaku Dou élő koncerten. Bou szerint ez  döntés nem volt borulátó, sem derülátó, de reméli hogy ezzel nem hagyta cserben a bandát, a munkatársait, valamint a  "Cafekkos"-okat, a rajongókat.

Bou helyett Takuya lett az új gitáros. De nem ez volt az egyetlet változás, ugyanis a banda felvett egy billentyst is, Yuuki-t.  Az új single-albumuk a Kakusei Heroism ?THE HERO WITHOUT A "NAME"?. Ez a szám lett a főcímdala a Darker than black című animének. 

2007. november 7-én jelenent meg a egy single, a Ryusei Rocket. És ezt követte a legújabb album a Gokutama Rock Cafe.