请问支持在Mac M2机器上进行训练吗

[mobguang]

你好，请问sft_train.py支持在Mac M2机器上对CodeLlama-13b-Instruct-hf进行训练吗。我这边尝试了一下，有如下错误信息：
attn_output = torch.nn.functional.scaled_dot_product_attention(
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
RuntimeError: Expected attn_mask dtype to be bool or to match query dtype, but got attn_mask.dtype: c10::Half and query.dtype: float instead.

请问要如何调整一下代码以便可以支持在M2上进行训练，谢谢。

[wangzaistone]

@mobguang 目前还不支持，需要在gpu上