<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>VScode &#8211; richliu&#039;s blog</title>
	<atom:link href="https://richliu.com/tag/vscode/feed/" rel="self" type="application/rss+xml" />
	<link>https://richliu.com</link>
	<description>Linux, 工作, 生活, 家人</description>
	<lastBuildDate>Thu, 25 Aug 2022 17:12:33 +0000</lastBuildDate>
	<language>zh-TW</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	<generator>https://wordpress.org/?v=6.9.4</generator>
	<item>
		<title>FauxPilot local Copilot Server</title>
		<link>https://richliu.com/2022/08/07/4784/fauxpilot-local-copilot-server/</link>
					<comments>https://richliu.com/2022/08/07/4784/fauxpilot-local-copilot-server/#respond</comments>
		
		<dc:creator><![CDATA[richliu]]></dc:creator>
		<pubDate>Sun, 07 Aug 2022 14:24:36 +0000</pubDate>
				<category><![CDATA[隨手札記]]></category>
		<category><![CDATA[copilot]]></category>
		<category><![CDATA[Fauxpilot]]></category>
		<category><![CDATA[Nvidia]]></category>
		<category><![CDATA[VScode]]></category>
		<guid isPermaLink="false">https://richliu.com/?p=4784</guid>

					<description><![CDATA[<p>FauxPiolt 是一個採用 SalesForce CodeGen 模型加上 Nvidia Triton I [&#8230;]</p>
<p>The post <a rel="nofollow" href="https://richliu.com/2022/08/07/4784/fauxpilot-local-copilot-server/">FauxPilot local Copilot Server</a> appeared first on <a rel="nofollow" href="https://richliu.com">richliu&#039;s blog</a>.</p>
]]></description>
										<content:encoded><![CDATA[
<p><a href="https://github.com/moyix/fauxpilot" target="_blank" rel="noreferrer noopener">FauxPiolt </a>是一個採用 SalesForce CodeGen 模型加上 Nvidia Triton Inference Server 的 Copilot server 取代品. 也就是說，不需要使用 github 的 copilot 的服務就可以使用 copilot 了<br /></p>



<span id="more-4784"></span>



<p>因為之前想要在 Windows 玩遊戲，又想要學一些 AI 的東西，所以後來裝了 WSL2 加上 Nvidia driver <br /><br />如果要在這個環境下跑 FauxPilot ，那就要裝 Docker Windows 版，然後開啟 WSL2 的支援，雖然 Microsoft 也有說明，我覺得 <a href="https://docs.docker.com/desktop/windows/wsl/" target="_blank" rel="noreferrer noopener">Docker 這邊的說明比較好</a></p>



<figure class="wp-block-image size-full is-resized"><img fetchpriority="high" decoding="async" src="https://richliu.com/wp-content/uploads/2022/08/image.png" alt="" class="wp-image-4785" width="379" height="224" srcset="https://richliu.com/wp-content/uploads/2022/08/image.png 1055w, https://richliu.com/wp-content/uploads/2022/08/image-600x355.png 600w, https://richliu.com/wp-content/uploads/2022/08/image-768x455.png 768w" sizes="(max-width: 379px) 100vw, 379px" /></figure>



<p>現在 FauxPilot 的版本已經可以支援 8GB 的顯示卡了，選 7GB 的 codegen 就可以了<br />如果更大 codegen model 的可以用二張顯示卡，這樣就可以支援了<br /><br />我照圖中的步驟安裝沒有什麼問題，有問題的應該是 VSCode copilot 的部份，按照 Fauxpilot 設定，並不會轉到 localhost:5000 ，猜測可能已經拿掉支援了或是我沒設定好<br /><br />不過上面那個 openai 的 Sample code 就是可以直接存取，那個 sample code 不需要取得 openai 的 api key，直接用就可以，應該是 Nvidia server 自帶的功能</p>



<p>有人寫了一個 vscode-fauxpilot 的 extension ，下載位置在<strong><a href="https://github.com/Venthe/vscode-fauxpilot/releases" target="_blank" rel="noreferrer noopener">這邊</a></strong>，試了一下可以玩，簡單的測試了一下<br />要什麼功能就先 ### 你要的的功能，接下來就會顯示程式碼，再用 tab 就可以補完了，還頗有趣的</p>



<figure class="wp-block-image size-full"><img decoding="async" width="568" height="227" src="https://richliu.com/wp-content/uploads/2022/08/image-1.png" alt="" class="wp-image-4805"/></figure>



<p>ref.<br /><a href="https://blog.gslin.org/archives/2022/08/04/10822/%E8%B7%91%E5%9C%A8%E6%9C%AC%E6%A9%9F%E7%9A%84-github-copilot-%E6%9B%BF%E4%BB%A3%E5%93%81/" target="_blank" rel="noopener">跑在本機的 GitHub Copilot 替代品</a></p>
<p>The post <a rel="nofollow" href="https://richliu.com/2022/08/07/4784/fauxpilot-local-copilot-server/">FauxPilot local Copilot Server</a> appeared first on <a rel="nofollow" href="https://richliu.com">richliu&#039;s blog</a>.</p>
]]></content:encoded>
					
					<wfw:commentRss>https://richliu.com/2022/08/07/4784/fauxpilot-local-copilot-server/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
	</channel>
</rss>
