Kiskinizs nevét az oklevelek 1245-ben említették először Kenys néven.
A két Kinizs nevű falu: Kis- és Nagykinizs a Hernád folyó két oldalán alakult ki. Egyik abaúji várbirtok, másik a Kinizsi nemzetség ősi fészke. A két apró település története alig különíthető el egymástól. Kinizs birtokosai a Kinizsi család tagjai voltak.
1246-ban Kinizsi Istvánt említette egy oklevél, aki fügedi földjét eladta. 1256-ban Kinizs nemzetségbeli Mixta királyi emberként volt említve. 1270-ben a Kinizsi család tagjai közül János átadta a Kiskinizsen birtokos Julának kércsi birtokrészét cserébe egy Csehországban ejtett fogolyért, egy zsákmányolt lóért és egy szolgáért. 1272-ben a Kinizsi család tagjainak kércsi birtokát említették. 1282-ben IV. László király Guentyr-nek adta Léh földjét. 1300-ban János és Jula eladta Nógrád vármegyében levő Rád nevű birtokát. Kiskinizs Juláról Gyulatelke, később pedig Szentjánoskinizs nevet is viselt.
Az 1300-as években a két község Gyulatelke és Szentjánoskinizs elnevezésekkel szerepelt. A török elleni harcok során 1567-ben Hasszán pasa csapatai ostrommal bevették és elpusztították. Még 1715-ben is a lakatlan helyek között tartották számon. Csak az 1780-es években települt be újra Borsod megye déli részéből ideérkező bevándorlókkal.
1828-ban már 468 lakója volt, száz évvel később 540-en laktak a településen. A századfordulót követően fejlődésnek induló kisközségben 1928-ban iskola, később kultúrház épült, és bevezették a villanyt is.
Lakossága a két világháború között közép-és kisbitokosokból állt, az itteniek jó minőségű szántókon dolgoztak, amellett híresek voltak kiváló szintű lótenyésztésükről. Már 1948-ban termelőszövetkezetet alapítottak az itteni parasztok, amelynek fejlődése az 1960-as években bontakozott ki. Ekkor bővítették a már csak félig kihasznált iskolát, újjáépítették a kultúrotthont, és a házépítési tevékenység is megélénkült.
Az 1970-es években a falu déli felén üdülőtelep alakult ki. A fiatalabb korosztályok közül egyre többen hagyták ott a mezőgazdaságot és helyezkedtek el a megye iparában.
A 340 fős lélekszámú község népessége az 1970-es években indult komolyabb mértékű fogyásnak és ez a folyamat még ma is tart.