In december 1793 werd door een groep korenwijnbranders bij de Vroedschap een verzoek ingediend tot het bouwen van een nieuwe stenen molen. Nog voordat dit in behandeling werd genomen kwam er al een klacht van Fop van der Tak, eigenaar van molen De Meyboom. Hij verzocht de Vroedschap 'als plaats voor de nieuw te bouwen molen niet in aanmerking te doen komen de stadsgrond tusschen zijn molen en molen De Eendragt (Broersvest), noch zodanige grond, welke hem voor deszelfs molen tot hinder zoude kunnen verstrekken'. Van der Tak had vernomen dat dit stuk grond mogelijk zou kunnen worden aangewezen als plaats voor de nieuw te bouwen molen. Omdat De Meyboom al hinder had ondervonden door de bouw van De Hoop en later De Eendragt, was Van der Tak bang voor wéér een hoge molen in de nabijheid van De Meyboom. Het zou hem namelijk veel windbelemmering opleveren.
Gelukkig voor Van der Tak kwam als meest geschikte locatie een stuk grond aan de Westvest, in het verlengde van de Walvischsteeg, in aanmerking.
Wél werden enige strikte voorwaarden gesteld:
1. Dat de molen aan den grond of straat niet wijder dan 40 voeten buitenwerks en het muurwerk niet hoger dan 87 voeten uit gemelde straat zal mogen worden gemaakt;
2. Dat gemelde molen buitenwerks gelijk met den buitenkant van de keistraat zal moeten gesteld worden en onder dezelve een steene heul met een houten vloer, wijd omtrent acht voeten en twintig diep en hoog als bij het maken nader zal worden bepaald en respectieve eigenaars der molen dezelve ten allen tijde ordentelijk zullen moeten schoonhouden;
3. Dat ter wederzijde van de molen zal moeten worden gemaakt worden steene vleugels op zoodanige raaying lengte en hoogt als nader zal bepaald worden en dezelve ten allen tijden ten koste van den molen zullen moeten onderhouden worden;
Het aanleggen van de vermelde heul verliep niet zonder slag of stoot. Het bestuur van de op te richten molen diende een verzoek in deze te laten vervallen, maar dat werd afgewezen. Zo werd De Walvisch, die een eind ín het water werd gebouwd, van dit - nog altijd aanwezige - poortje voorzien. Doel was, de doorstroming van het water te waarborgen. De waterkwaliteit was in die tijd vanwege de vele branderijen zorgelijk; ook was er een getijdemolen midden in de stad, de Waterkoornmolen (welke pas in 1964 zou worden gesloopt...).

De Walvisch is in zijn bestaan nogal eens te maken gehad met schade door natuurgeweld of door brand. In september 1826 raakte de molen, evenals De West, De Drie Koornbloemen, De Vrijheid en De Hoop beschadigd door ‘een hevigen rukwind uit het zuid-zuidwesten’. In oktober 1863 verloor de molen een deel van de ophekking door storm, mogelijk veroorzaakt door het door de vang lopen. Op 22 augustus 1892 sloeg de bliksem in, maar dit had geen serieuze gevolgen: molenbaas A. Stolk bleef, hoewel de bliksem hem op een haar na miste, ongedeerd. In april 1900 werd een roede door storm beschadigd; nog datzelfde jaar werd een nieuwe binnenroede gestoken.

In augustus 1928 werd de molen - die op dat moment in zeer matige staat verkeerde - door De Hollandsche Molen overgenomen. Molenvriend J.R. Sjoer, bouwmaterialenhandelaar in Schiedam, trad op als tussenpersoon en wist de molen voor een bedrag van ƒ 3500,-- aan te kopen. De molen is hierna gerestaureerd door molenmakerij Ottevanger (Moerkapelle).

In 1929 huurde L. Diepenhorst uit ‘s-Gravendeel de molen en vestigde er een malerij. DHM stelde als voorwaarde, dat er ook op windkracht moest worden gemalen. Op 16 september 1929 meldde de Schiedamsche Courant dat de molen voor het eerst sinds jaren weer (witte) zeilen voerde. Diepenhorst maalde zowel met de wind als met een gasmotor en hij had binnen vrij korte tijd een klantenkring, vooral bestaande uit boeren in de omgeving. Helaas: Diepenhorst ging in 1937 failliet en moest de huur opzeggen.

Op 9 december 1938 ontstond er brand. De brandweer kon voorkomen dat het vuur door de gehele molen heen brak, maar de onderste vier zolders raakten zwaar beschadigd. Luttele dagen later werd vastgesteld dat toenmalig huurder Jansen de brand zelf had gesticht. Molenmakerij A. de Graaf & Zn. uit Gouda herstelde vervolgens de schade.
Na dit herstel kwam er een nieuwe huurder: de N.V. Melkproductenfabriek Casea. De firma ging caseïne malen, een stof die werd gebruikt door verffabrieken.

Begin jaren '50 verscheen de familie (Van Driel-)Kluit ten tonele. Zij was ook eigenaar van De Noord op het Oostplein in Rotterdam. Op die laatste molen maalde men vooral tarwe; met De Walvisch wilde men bloem gaan produceren.
Toen De Noord op 28 juli 1954 door brand verloren ging, betekende dat voor De Walvisch daarna: intensiever gebruik. Ook bracht men in die periode een installatie voor het opwekken van elektriciteit aan. Deze verdween echter weer snel: volgens Gerrit van Driel-Kluit ‘stootte en gierde het, maar leverde het haast niets op’. Een andere eigenaardigheid was het aanbrengen van een hoge kruibank, zoals bij Alblasserwaardse poldermolens.

In 1959 voerde de firma Van der Loo uit Kethel groot onderhoud uit. Zo was de molen in de jaren zestig af en toe draaiend te zien, maar er werd nog maar weinig gemalen.

In december 1970 startte Van der Loo met een forse restauratie, waarbij onder andere kap, staart, stelling en het grootste deel van het wiekenkruis werden vernieuwd. Er kwam een nieuwe gelaste buitenroede; de Pot-binnenroede uit 1900 kon na reparatie weer gestoken worden. Na de oplevering in december 1972 draaide en maalde de molen weer geregeld.

In 1982 kocht de gemeente Schiedam De Walvisch voor het bekende bedrag van ƒ 1,-- aan. Op dat moment stond de molen al een tijd stil vanwege een zeer matig bovenwiel: dit moest dringend worden vervangen. In juli 1983 is dit wiel door de fa. Verbij vernieuwd (het oude wiel staat sindsdien los opgesteld in De Noord).

Rond 1986 verdween de molen volledig tussen de steigers voor grootscheeps herstel van het metselwerk: het voegwerk werd grotendeels vernieuwd, evenals een deel van de bakstenen.
In oktober 1994/1995 volgde herstel aan het wiekenkruis, waarbij onder andere de Potroede uit 1900 werd vervangen. Bovendien werd het wiekenkruis ‘origineel-Schiedams’ opgehekt, dus met scheerhouten aan de toppen en verlengde zwichtlatten.

In de nacht van 14 februari 1996 overkwam De Walvisch de grootste ramp in zijn bestaan: de molen raakte, vermoedelijk door kortsluiting op de tweede zolder, in brand. Wat in 1938 uitbleef, gebeurde nu wel: een onvervalste backdraft, waardoor het vuur zich in één keer door de molen verspreidde. De Walvisch brandde uit. Het wiekenkruis viel niet uit de molen maar bleef op de bovenkant van de romp hangen, de bovenas hield daarbij dapper stand en ook de stelling bleef intact. 

De herbouw werd al in 1996 gestart met herstel van het op sommige plaatsen zwaar aangetaste metselwerk. Door de hitte van het vuur en het daaropvolgende blussen was dat namelijk hier en daar gebarsten. Ook werden overal nieuwe bintlagen aangebracht.

De Restauratiewerkplaats Schiedam is er daarna in geslaagd, de molen op prachtige wijze te herstellen: het is niet eenvoudig te beoordelen, of een foto van voor of na de brand dateert! Alleen de heel kritische kijker ziet dat de huidige kap minder breed is dan de vorige, maar dat heeft een reden: de vroegere, voornamelijk uit 1972 daterende, kap was in verhouding iets te groot.
De antieke Nolet-as, die de brand dus had overleefd, moest helaas worden afgekeurd. De nieuw te gieten bovenas werd vervolgens geheel naar model van de voorganger vervaardigd. De originele Nolet-plaat met het jaartal van de oude as kreeg een plaats op zijn opvolger.
Aanvankelijk werd de molen alleen draaivaardig opgeleverd. Enkele jaren later was De Walvisch inwendig ook weer geheel compleet en maalvaardig en daarna werd ook weer geregeld gemalen. 

In de loop van 2017 begon voor De Walvisch een nieuwe fase: een grote verbouwing om de molen in te richten als museummolen, zónder daarbij de maalvaardigheid prijs te geven. Dit betekende ook dat de museumfunctie van De Palmboom zou worden beëindigd en geheel door De Walvisch overgenomen. Voornaamste reden voor dit alles was dat De Walvisch ten opzichte van andere Schiedamse musea veel gunstiger gelegen was dan De Palmboom.

In september 2017 kwam de gehele molenromp in de steigers voor algeheel herstel en verwijderde men tijdelijk de staart. Met het herstel van het metselwerk werden tegenvallers geboekt maar er werd stevig doorgewerkt.
Op 25 februari 2018 nam men De Walvisch als museum en molenwinkel in gebruik, aan de molen zelf werd toen nog gewerkt: zo was de staart nog niet compleet. Niet lang daarna was de molen in- en uitwendig geheel gereed en maalvaardig.

Het vervangen van de roeden van De Vrijheid en De Palmboom (in 2021 en '22) was aanleiding om ook de roeden van andere Schiedamse molens te controleren. Men heeft besloten, van De Walvisch beide roeden te vervangen. Tot dat zover is, stond de molen stil.
Eind november 2022 begon men met het kaalzetten van de oude roeden. Op 6 maart 2023 stak men de nieuwe roeden en kort daarna draaide De Walvisch als vanouds.