Polder de Olifant werd in 1867 opgericht. Voor de bemaling kocht men een molen uit de provincie Groningen die daar overbodig geworden was. Die molen, gebouwd 1856, bemaalde de Oosterwolderpolder onder Scheemda maar daar kon men, na het bedijken van een naburige polder met een nieuw afwateringskanaal, weer op natuurlijke wijze ontwateren (evenwel was men aldaar, 16 jaar later, alsnog genoodzaakt tot de bouw van een maalwerktuig, een stoomgemaal). 

De molen verhuisde aldus in 1867 voor ƒ 2000,-- naar Friesland, naar de nieuwe polder De Olifant tussen Birdaard en Oudkerk. Al na enkele jaren werd de houten as vervangen door een gietijzeren exemplaar, de oude zette men te koop.

Na de droge zomer van 1911 besloot men tot het toevoegen van een inmaalfunctie met behulp van een vijzel of centrifugaalpomp. Het werd een vijzel die in 1914 geïnstalleerd werd. Deze bleef in functie tot in 1945 het IJsselmeerwater voldoende ontzilt was om in droge zomers in te laten en de boezem mee op peil te houden. De daarmee overbodig geworden inmaalvijzel heeft men daarom later, in 1954, verwijderd.

Bij de ingelandenvergadering van 1916 was besloten tot het oprichten van een nieuw waterschap (wat in 1920 inderdaad gebeurde). Tevens werd in diezelfde vergadering besloten om "zelfzwichterij" aan te brengen. In 1920 kwam dit nogmaals ter sprake, maar het ging om één of andere reden nooit door: de Olifant heeft altijd zijn zeilroeden behouden.

Vrijgezel Siebe van der Leest was 50 jaar lang molenaar tot hij in 1929 werd opgevolgd door Tjerk van der Meulen. Deze hield het met 35 jaar ook lang vol, maar uiteindelijk werd het hem daar toch te eenzaam: hij vertrok in 1964.
Zijn opvolger Eeuwe de Vries was nog maar 19 jaar oud, maar is wel afkomstig uit een molenaarsgezin. Het nachtmalen was dan al niet meer nodig omdat inmiddels (1961) een dieselmotor was geplaatst. Wél hoorde het hekkelen van 15 km.(!) lange tochtsloot bij het molenaarschap.
De afgelegen ligging speelde de molenaar en zijn gezin uiteindelijk toch parten, ook waren er te weinig uitbreidingsmogelijkheden voor het boerenbedrijf zodat De Vries later naar Oudkerk verhuisde (hij bleef wel actief in de molenwereld en werd later molenaar op de Oudkerker molen).

In 1968 ging waterschap De Olifant op in het nieuwe waterschap De Wâlden. Met de uitvoering van de ruilverkaveling van Dantumadeel begin zeventiger jaren werden vier molens werkeloos: niet alleen De Olifant, maar ook de Broekmolen en de Grote Molen bij Broeksterwoude en De Hoop bij Roodkerk verloren hun functie. Een nog uitgebreider plan waarbij een nog groter deel van de Murk zou worden afgesloten van de boezem en ook de Wijnser, Oudkerker en Bullemolen hun functie zouden verliezen haalde het uiteindelijk niet.
In het kader van diezelfde ruilverkaveling legde men een weg door de polder aan, waarmee de molen uit zijn isolement werd verlost. Vóór die tijd waren molen en molenaarshuis alleen te voet bereikbaar vanaf Oudkerk. Ook kwam geld vrij voor de restauratie van de molen die in voorgaande jaren enigszins in verval was geraakt.

De restauratie vond in 1975 plaats: beide spruiten, windpeluw en staartbalk werden vernieuwd worden. De motor verhuisde naar de Bullemolen. Na de restauratie werd de molen overgedaan aan De Fryske Mole, hoewel daar nog wel even over gediscussieerd werd binnen het waterschapsbestuur, dit vanwege de emotionele waarde van de molen.

In 1985 bleken beide vijzels in slechte staat en ook de vijzelbakken waren verrot waardoor er onvoldoende geld was om de inmaalvijzel te herstellen. Er werd daarom besloten deze in eigen beheer te maken. Andere tegenvallers in die jaren waren een gang kammen die verloren ging en een voeghout dat vervangen moest worden. Door dit alles kwam de inmaalvijzel pas in 1990 gereed. In 1992 werd tenslotte het gaande werk naar de inmaalvijzel hersteld zodat De Olifant alle drie vijzels weer kon gebruiken.

Na controle bleken de roeden in 2006 in slechtere staat dan verwacht en kreeg de molen een draaiverbod opgelegd. De Olifant kreeg vervolgens in begin 2008 als eerste een nieuw type roeden, namelijk die deelbaar zijn in het midden. Daardoor passen ze in hun geheel in een bad en kunnen ze aldus zonder gevaar van vervorming in één keer verzinkt worden. De verwachting was dat deze roeden twee keer zo lang (50 jaar) mee zullen gaan. De roedehelften zijn met bouten aan elkaar verbonden waarbij het deelpunt in de askop valt en daardoor niet zichtbaar is.
Helaas: de gedeelde roeden, die daarna volop in Nederland (en ook daarbuiten) werden toegepast bleken in enkele gevallen toch problemen te geven: bij twee molens braken bouten. Het gevolg was een draaiverbod voor min of meer alle met die roeden uitgeruste molens, zo ook De Olifant.
Voor de getroffen molens (en hun eigenaren) werd een gunstige regeling getroffen, maar helaas betekende dat wel, dat nogal wat molens moesten wachten: alle Nederlandse roedenmakers moesten volop aan de slag maar uiteraard kon niet alles tegelijk.
De Olifant kreeg in de vroege zomer van 2018, dus meer dan een jaar na de stilzetting, nieuwe roeden uit één stuk. 

In 2010 had men de verzakte kademuren van de voor- en achterwaterlopen hersteld en ook een rondmaalcircuit aangelegd. Daarvoor kon de molen alleen heen en weer malen, dat wil zeggen de tochtsloot volmalen met de uitmaalvijzels en daarna weer leegmalen met de inmaalvijzel. De ongeveer één kilometer lange voorboezem is niet meer op de Friese boezem aangesloten.