答：不一定。看看上游是批发零售还是自产自销的。若是从专门批发销售蔬菜的公司购买蔬菜，取得一份免税发票，不得抵扣增值税。

参考一：
财税【2017】37号文件规定：
(四)纳税人从批发、零售环节购进适用免征增值税政策的蔬菜、部分鲜活肉蛋而取得的普通发票，不得作为计算抵扣进项税额的凭证。

参考二：
根据《财政部国家税务总局关于免征蔬菜流通环节增值税有关问题的通知》(财税〔2011〕137号)规定：“经国务院批准，自2012年1月1日起，免征蔬菜流通环节增值税。现将有关事项通知如下：
一、对从事蔬菜批发、零售的纳税人销售的蔬菜免征增值税。
蔬菜是指可作副食的草本、木本植物，包括各种蔬菜、菌类植物和少数可作副食的木本植物。蔬菜的主要品种参照《蔬菜主要品种目录》(见附件)执行。
经挑选、清洗、切分、晾晒、包装、脱水、冷藏、冷冻等工序加工的蔬菜，属于本通知所述蔬菜的范围。
各种蔬菜罐头不属于本通知所述蔬菜的范围。蔬菜罐头是指蔬菜经处理、装罐、密封、杀菌或无菌包装而制成的食品。

参考三：
财税【2012】75号财政部国家税务总局《关于免征部分鲜活肉蛋产品流通环节增值税政策的通知》规定：
一、对从事农产品批发、零售的纳税人销售的部分鲜活肉蛋产品免征增值税。
免征增值税的鲜活肉产品，是指猪、牛、羊、鸡、鸭、鹅及其整块或者分割的鲜肉、冷藏或者冷冻肉，内脏、头、尾、骨、蹄、翅、爪等组织。
免征增值税的鲜活蛋产品，是指鸡蛋、鸭蛋、鹅蛋，包括鲜蛋、冷藏蛋以及对其进行破壳分离的蛋液、蛋黄和蛋壳。
上述产品中不包括《中华人民共和国野生动物保护法》所规定的国家珍贵、濒危野生动物及其鲜活肉类、蛋类产品。