根据《中华人民共和国发票管理办法实施细则》第二十九条的规定，所有发票的开具必须使用中文。在民族自治地区，除了中文之外，还可以选择当地通用的一种民族文字进行填写。

这意味着，当单位收到销售方提供的增值税专用发票时，必须确认该发票是以中文形式开具的，并且内容也需用中文填写。如果发票不是用中文书写的，单位有权拒绝接收这些不符合规定的发票。