Анджей и Кристина, богатая пара из Варшавы, отправляются на выходные отдыхать на Мазурские озёра на своей яхте. По пути они чуть не сбивают путешествующего автостопом молодого человека и, в попытке загладить вину, приглашают его с собой. Начавшееся в дружеской манере общение скоро перерастает в напряжённое противостояние между Анджеем и молодым попутчиком. Анджей стремится подчеркнуть своё превосходство, выставляя себя умнее и сильнее, в то время как юноша, обладающий ножом как символом молодёжной силы, не желает уступать. Их конфликт эскалирует, переходя из словесных упрёков в физическую схватку, ставя под вопрос, кто в итоге одержит верх.
«Нож в воде» — первый польский фильм, номинированный на «Оскара».
Яхта, которая снялась в фильме, прежде принадлежала Герингу. Во время Второй мировой войны она была затоплена на Мазурских озерах, но потом поднята с дна и восстановлена. Ее настоящее имя — «Рекин», что означает «акула».
Зигмунт Малянович, актер исполнивший роль Юноши, — брюнет, поэтому для роли волосы пришлось окрасить в белый.
Первоначально Полански видел в качестве исполнителя роли Юноши своего со-автора Ежи Сколимовского, окончившего на тот момент актерскую школу, но от идеи пришлось отказаться в пользу профессионального актера Зигмунта Маляновича.
Музыку к фильму написал Кшиштоф Комеда, игравший на тот момент в подпольном джазовом оркестре. Полански оказалось достаточным показать Кшиштофу фильм, чтобы тот проиллюстрировал некоторые моменты. Это был первый польский фильм, в котором был использован джаз.
По словам Полански в первый же съемочный день он выбросил сценарий в озеро, посчитав что написанные реплики не ложились органично на игру актеров.
Для съемок был изготовлен плот, сопровождавший яхту во многих сценах, когда камера не могла находится на самой яхте.
Фильм, запечатлевший наметившееся в социалистическом обществе расслоение, вызвал нарекания первого секретаря ЦК ПОРП Владислава Гомулки (по словам Полански, во время предпремьерного показа тот запустил в экран пепельницей) и был запрещён к показу польскими цензорами.
В сцене, когда Юноша забирается на яхту, после того как Кристина остается одна, непрофессиональная актриса Йоланта Умечка никак не могла достоверно отреагировать на внезапное появление Юноши. Поэтому один из ассистентов режиссера в тайне от актрисы выстрелил в нужный момент холостым патроном над ухом Йоланты. Этот дубль и вошел в фильм.